클로드가 사흘 만에 엔비디아의 20년 CUDA 해자를 뚫었다? 앤스로픽이 Mythos가 스스로 GPU 저수준 코드를 이식하게 했다

동찰 Beating AI 속보, Anthropic이 IPO 로드쇼에서 공개한 바에 따르면, Claude Mythos Preview는 단 3일 만에 Claude 모델이 AMD GPU에서 핵심 연산 단계를 구동하도록 만들었다. 필요한 GPU 커널은 거의 전부 Claude가 자체적으로 이식하거나 작성했으며, 인적 개입은 매우 적었다. Anthropic은 과거 새로운 칩 플랫폼에 접속하려면 보통 수십 명의 엔지니어가 6~12개월을 소요했다고 밝혔다.

엔비디아가 대체되기 가장 어려운 강점 중 하나가 바로 CUDA다.

CUDA는 엔비디아가 2006년에 출시한 GPU 컴퓨팅 플랫폼이다. 2018년까지 PyTorch, TensorFlow 등 주류 딥러닝 프레임워크는 이미 CUDA 및 그에 딸린 연산 라이브러리를 광범위하게 사용하고 있었다. 엔비디아는 또한 멀티 GPU 통신, 디버깅, 성능 최적화 도구를 잇달아 완성했다. 개발자는 대량의 저수준 프로그램을 처음부터 작성하지 않고도 GPU를 효율적으로 활용할 수 있다.

점점 더 많은 AI 학습 및 추론 프로그램이 CUDA를 중심으로 개발되면서, 엔비디아는 대량의 기성 코드와 도구를 축적했다. 개발자들이 엔비디아를 선택하는 이유도 대부분 소프트웨어가 이미 최적화되어 있기 때문이다. AMD가 성능이 매우 강력한 GPU를 만들어냈다 해도, 고객이 갈아타려면 코드 마이그레이션, 호환성 테스트, 성능 최적화 등의 문제에 직면해야 한다.

AMD의 MI355X는 288GB 고대역폭 메모리를 갖추고 있어 하드웨어 구성이 결코 약하지 않다. 문제는 엔비디아용으로 작성된 GPU 커널이 AMD로 바꾸면 바로 실행되지 않을 수 있고, 실행된다 해도 성능이 이상적이지 않을 수 있다는 점이다. 엔지니어는 AMD의 칩 아키텍처에 맞춰 코드를 조정하고, 연산 결과와 실행 속도를 반복적으로 테스트해야 한다.

AMD는 이미 ROCm, HIPIFY 등의 도구를 출시해 개발자의 CUDA 프로그램 마이그레이션을 돕고 있다. Triton 등 크로스 플랫폼 프로그래밍 도구도 마이그레이션 난이도를 낮추고 있지만, 복잡한 저수준 연산은 여전히 대규모 수작업 최적화가 필요하다.

Anthropic은 이번에 Mythos가 그중 일부 작업을 맡아 GPU 커널을 직접 이식하거나 재작성하도록 했다. 로드쇼 차트 설명에 따르면, Mythos는 3일 만에 Claude 모델의 프롬프트 처리 단계를 AMD MI355X에서 사용 가능한 성능에 도달하게 했다.

Anthropic은 사실 일찍부터 단일 칩 제조사에 대한 의존도를 낮추고 있었다. 증권신고서에 따르면, 회사는 수년간 시간을 들여 엔비디아 GPU, AMD GPU, Google TPU, 아마존 Trainium에 걸친 연산 자원 스케줄링 시스템을 구축했으며, 가격과 성능에 따라 서로 다른 칩을 선택할 수 있다.

올해 7월, Anthropic은 AMD와도 협력하여 2027년 상반기부터 AMD의 차세대 GPU를 최대 2GW 규모로 배치할 계획이다. 양측은 또한 Claude를 활용해 ROCm 개발과 GPU 성능 최적화를 가속화할 예정이다. AMD는 향후 Anthropic에 최대 50억 달러를 투자하겠다고 약속했다.

투자자 Marcelo P. Lima는 엔비디아의 CUDA 해자가 이미 사라졌다고 본다. 그러나 애널리스트 Ben Pouladian은 다른 견해를 제시했다: 모델의 일부 연산을 AMD에서 실행하는 것과 전체 시스템이 대규모 배포에서 안정적이고 경제적이며 경쟁력 있는 성능에 도달하게 하는 것 사이에는 큰 차이가 있다.