엔비디아의 200억 달러가 헛되지 않았다: Groq 칩이 공식 양산에 돌입했다

동차 Beating AI 속보, 엔비디아 Groq 3 LPX가 전면 양산에 돌입했다. 지난해 12월, 엔비디아는 약 200억 달러를 들여 Groq 기술 라이선스를 확보하고, 창업자 Jonathan Ross 등 핵심 팀을 영입했다. 8개월 후, 이 거래의 첫 번째 하드웨어가 공식적으로 출시되었다.

Groq 3 LPX는 대규모 모델 추론을 전용으로 가속화하는 시스템으로, 내부에 256개의 Groq 3 LPU 칩이 탑재되어 있다. Artificial Analysis 테스트에서 Gemma 4 31B가 10만 토큰을 입력한 후, Groq 3 LPX는 초당 3431개의 출력 토큰을 처리했다. 동일 테스트에서 당시 시장에서 공개적으로 호출 가능한 가장 빠른 API는 약 870개에 불과했으며, Groq 3 LPX는 약 4배에 달하는 성능을 보였다.

실제 배포 시 Rubin GPU가 더 무거운 연산을 담당하고, Groq 3 LPX는 토큰 생성 속도 향상에 특화되어 있다. Coding Agent의 경우 수십, 수백 번 연속으로 모델을 호출할 때 모델이 '텍스트를 뱉어내는' 시간을 확연히 줄일 수 있다.

Nebius는 Groq 3 LPX를 채택한 최초의 AI 클라우드 업체가 될 예정이다. 더 흥미로운 점은 Groq 자체도首批 채택자 중 하나가 되었으며, Dell과 함께 배포할 계획이다. 지난해 엔비디아에 기술 라이선스를 넘겼던 Groq가, 올해는 엔비디아가 만든 'Groq'를 사용하기 시작한 것이다.