동찰 Beating AI 속보, 작년에 DeepSeek는 화웨이 어센드 칩으로 R2 훈련을 시도했지만 결국 성공하지 못했습니다. 《파이낸셜 타임스》는 당시 칩 안정성, 크로스 카드 통신, 소프트웨어 지원 모두 문제가 있었다고 보도했습니다. 화웨이가 엔지니어를 현장에 파견해 지원했음에도 불구하고, DeepSeek는 결국 엔비디아 칩으로 돌아가 훈련을 완료했습니다.
1년여 후, 양측의 협력은 하드웨어 설계로 더 깊어졌습니다. 《The Information》은 현재 화웨이 엔지니어들이 DeepSeek 사무실에 장기 주재하며 모델 훈련의 실제 요구 사항을 차세대 어센드 칩 설계에 직접 반영하고 있다고 보도했습니다. 여기에는 컴퓨팅 작업 배치 방법과 칩 간 데이터 전송 방법이 포함됩니다.
DeepSeek는 올해 9월 말 어센드 버전 TileLang과 행렬 연산, MoE 전문가 통신 등 저수준 도구를 오픈소스로 공개하여 모델을 국산 칩으로 마이그레이션하는 데 필요한 개발 작업을 줄였습니다. 하지만 소프트웨어가 실행된다고 해서 완전한 사전 훈련까지는 아직 갈 길이 멉니다. 수만 개의 칩이 수 주 동안 연속으로 협력해야 하며, 어느 하나라도 고장 나거나 데이터 전송에 지연이 발생하면 전체 클러스터가 느려질 수 있습니다. 이제 양측은 칩 설계 단계부터 이러한 문제들을 해결하기 시작했습니다.
화웨이는 2027년 1분기에 준비될 어센드 960DT의 대부분 공급을 다른 모델 회사에 분산하지 않고 DeepSeek에 우선 제공할 계획입니다. DeepSeek는 빠르면 올해 말 950DT로 사전 훈련을 시작할 준비를 하고 있습니다. 현재 관련 테스트에는 1,000개 이상의 칩이 사용되었으며, 완전한 사전 훈련에는 수만 개가 필요할 수 있고 일부 클러스터 관리 소프트웨어는 아직 완성되지 않았습니다. 한편 DeepSeek는 여전히 더 많은 엔비디아 칩을 확보하기 위해 노력하고 있습니다.