머스크, CPU도 엔비디아에 올인: SpaceX AI, 베라(Vera)로 에이전트 실행

동차 Beating AI 속보, SpaceXAI가 엔비디아 Vera CPU를 배치하여 차세대 AI 에이전트를 구동할 예정이다. 이는 GPU를 대체해 대형 모델을 계산하는 역할이 아니라, 모델 호출 사이의 작업을 처리하는 데 주로 사용된다. 여기에는 도구 호출, 코드 실행, 데이터 처리, 작업 오케스트레이션 및 시뮬레이션이 포함된다. SpaceXAI는 또한 Vera Rubin을 활용해 Grok의 AI 인프라를 계속 확장할 계획이다.

AI 에이전트가 복잡해질수록 CPU의 역할은 오히려 더 많아진다. 모델이 도구 호출을 생성한 후, 실제 코드 실행이나 데이터 조회 같은 작업은 일반적으로 CPU에 맡겨진다. CPU가 너무 느리면 GPU는 결과가 돌아올 때까지 기다려야 한다. Vera는 엔비디아가 이러한 용도를 위해 특별히 설계한 CPU다.

Vera는 88개의 엔비디아 자체 개발 Olympus CPU 코어를 탑재하고 있으며, 메모리 대역폭은 최대 1.2TB/s에 달한다. 엔비디아에 따르면, 에이전트, 강화 학습, 데이터 처리 등의 작업에서 Vera의 작업 완료 속도는 x86 CPU 대비 최대 1.8배 빠르다.

엔비디아가 에이전트를 위해 준비한 하드웨어 분업도 점점 명확해지고 있다: Rubin GPU는 대형 모델 계산을 담당하고, Groq LPU는 토큰 생성을 가속화하며, Vera CPU는 도구 호출과 코드 실행을 담당한다. SpaceXAI는 또한 Vera Rubin을 우주로 가져갈 준비를 하고 있으며, 1세대 Starmind AI 위성은 최적화된 Vera Rubin NVL72를 기반으로 할 예정이다.