화웨이 어센드 950PR의 행렬 연산 속도는 H100의 40%에 불과하며, DeepSeek는 소프트웨어에서 성능을 짜내고 있다.

동찰 Beating AI 속보, 작년에 DeepSeek는 화웨이 승등 칩으로 R2 훈련을 시도했으나 화웨이 엔지니어의 현장 지원에도 불구하고 실행하지 못했다. 칩 안정성, 크로스 카드 통신 및 소프트웨어 지원 모두 문제가 있었다. 올해 양측은 계속 심화 협력한다. 9월 말 DeepSeek는 승등 적응 코드 6세트를 집중 공개했고, 10월에는 화웨이가 DeepSeek의 모델 요구에 맞춰 차세대 칩 설계를 조정하고 있다는 소식이 전해졌다.

반도체 연구 기관 SemiAnalysis는 최근 승등 950PR의 실측 결과를 발표했다. 연구진은 대형 모델에서 흔히 쓰이는 행렬 계산 1055세트를 선정해 화웨이 자체 저수준 프로그램이 이미 950PR의 자체 도달 가능 연산력의 86%를 발휘하게 했으며, 이는 엔비디아 H100의 75.5%보다 높다고 밝혔다. 그러나 실제 연산 속도는 여전히 H100의 43%에 불과하고, 더 새로운 B300과 비교하면 21%에 그친다.

DeepSeek는 소프트웨어에서 데이터 이동과 대기 시간을 줄이고 있다. 예를 들어 어텐션 계산을 실행할 때 원래 각각 읽어야 했던 두 데이터를 FlashMLA로 저장 방식을 조정한 후 한 번에 가져올 수 있다. 또 다른 도구 TileLang은 칩이 계산하면서 다음 배치 데이터를 미리 로드할 수 있게 한다. SemiAnalysis 실측 결과 자동 스케줄링으로 일부 소규모 계산 작업의 소요 시간이 최대 약 40% 감소했다. DeepSeek는 MoE 전문가 통신을 담당하는 DeepEP도 이식했지만 통신과 계산이 여전히 메모리 대역폭을 두고 경쟁하며, 화웨이는 펌웨어를 계속 개선할 계획이다.

이번 테스트의 950PR은 주로 추론 입력 처리를 겨냥하며, DeepSeek가 빠르면 연말 대규모 사전 훈련에 사용할 준비를 하는 것은 950DT이다. 앞서 양측은 천 카드급 테스트를 진행했지만, 수만 개 칩이 대형 모델 훈련 한 라운드를 연속으로 완료하려면 더 복잡한 협력과 안정성 문제를 해결해야 한다.