Claude는 4주도 안 되어 36개의 생물학 모델을 최적화했으며, 평균 약 4배의 속도 향상을 달성했습니다.

동찰 Beating AI 속보, Anthropic이 Claude를 통해 36개의 오픈소스 생물학 모델에 대해 성능 최적화를 진행했습니다. 4주도 안 되어 이 모델들은 평균 약 4배 빨라졌으며, 단백질 구조 예측, 단백질 설계, 유전체 분석 등의 작업을 포함합니다. 관련 최적화 코드는 전부 오픈소스로 공개되었습니다.

Claude가 한 것은 단순히 Python 코드를 수정한 것뿐만 아니라, FlashPairformer 등의 GPU kernel을 직접 작성하여 GPU 연산 효율을 근본적으로 높였습니다. 공식 테스트에서 원래 매우 시간이 많이 걸리던 연산이 최대 3.2배 빨라졌습니다. 모델마다 Claude는 병목을 하나씩 찾아 중복 연산을 제거하거나, 자주 쓰이는 데이터를 미리 캐싱했습니다.

전 과정은 두 명의 Anthropic 생물 모델링 연구원이 감독했지만, 두 사람 모두 이전에 추론 최적화나 kernel 엔지니어링 경험이 없었습니다. 최적화 전후 결과가 완전히 동일해야 한다는 조건에서도 이 모델들은 평균 약 1.6배 빨라졌고, 모델 결과에 정상 범위 내의 미세한 차이를 허용하면 평균 약 4배까지 빨라졌습니다.

Anthropic이 이전에 단백질 설계 실험을 했을 때, 목표당 최대 약 2500 H100 GPU 시간이 필요했습니다. 최적화 후에는 H200 한 대로 24시간 돌리면 거의 비슷한 효과를 낼 수 있었고, GPU와 Claude 비용을 합쳐 약 150달러였습니다. 원래 수천 GPU 시간을 태워야 했던 실험이 이제 하루 정도면 완료됩니다.