원문 제목: An Interview with CoreWeave Executives: AI Demand Seems to 'Intensify' Every Day
원문 저자: Tae Kim
편역: Peggy, BlockBeats

편집자 주: 이 인터뷰는 AI 컴퓨팅 파워 사이클을 관찰할 수 있는 창을 제공한다. 수요는 이전 GPU 쟁탈전으로 인해 식지 않았으며, 오히려 에이전트, 추론 및 기업용 AI 애플리케이션에 의해 계속해서 상승하고 있다.

이 글은 CoreWeave의 공동 창업자이자 최고 개발 책임자(CDO)인 Brannin McBee와 기업 개발 및 투자자 관계 부사장인 Nick Robbins를 인터뷰하여 AI 수요와 네오클라우드 시장의 현황을 논의한다. CoreWeave 임원들의 핵심 발언은 매우 직설적이다. AI 수요는 매일 새로운 방식으로 심화되고 있으며, 진정한 병목 현상은 'GPU 보유 여부'에서 더 복잡한 인프라 문제로 전환되고 있다. 즉, 데이터센터 전력 공급 쉘, CPU, 스토리지, 전기 기술자, 공급망 실행 능력, 그리고 고객이 차세대 컴퓨팅 파워에 지불할 의사가 있는 비용 등이다.

CoreWeave의 특수성은 AI 인프라 체인의 중간에 위치한다는 점이다. OpenAI, Anthropic, Meta, Google, Microsoft, Nvidia 등 주요 고객에게 서비스를 제공할 뿐만 아니라 연구소, 기업 고객 및 하이퍼스케일 클라우드 공급자의 수요 변화를 직접 감지한다. 따라서 CoreWeave가 보는 것은 단순히 'GPU 부족 여부'가 아니라 AI 워크로드 자체가 구조적으로 변화하고 있다는 점이다. 에이전틱 AI와 리즈닝 모델의 부상으로 컴퓨팅 파워 수요는 더 이상 GPU에만 국한되지 않으며, CPU와 스토리지의 중요성도 증가하고 있다. 차세대 데이터센터 설계는 Vera CPU, Vera Rubin 서버 및 더 많은 스토리지를 위한 공간을 반드시 확보해야 한다.

이는 AI 인프라 경쟁이 단순한 칩 조달에서 보다 포괄적인 엔지니어링 전달 능력으로 전환되고 있음을 설명한다. 누가 더 빨리 전력을 공급받는 데이터센터를 확보하고, 서버를 배포하며, 공급망을 원활히 하고, 토큰당 비용을 최적화하는지가 이번 AI 자본 지출 사이클의 핵심에 더 가까워지는 길이다. CoreWeave는 '고객 중심'을 반복해서 강조하지만, 그 이면에는 더 큰 판단이 숨어 있다. AI 클라우드 제공자는 더 이상 단순히 컴퓨팅 파워를 판매하는 것이 아니라, 최첨단 고객의 로드맵에 따라 차세대 AI 공장을 사전에 재구축하고 있는 것이다.

투자자와 업계 관찰자에게 이 인터뷰에서 가장 주목할 점은 특정 숫자가 아니라 AI 인프라 수요의 변화 방향이다. GPU는 여전히 중요하지만 병목 현상은 확산되고 있다. Nvidia는 여전히 핵심이지만 CPU, HBM, 스토리지 및 데이터센터 전력 공급 능력이 새로운 변수로 떠오르고 있다. AI 수요는 여전히 성장 중이지만, 미래의 승패는 누가 복잡한 인프라를 지속적이고 안정적이며 대규모로 제공할 수 있는지에 달려 있을 수 있다.

다음은 원문입니다:

CoreWeave는 네오클라우드(Neocloud, 신형 클라우드 서비스) 분야에서 혁신적인 초기 시장 선도자로 평가받고 있습니다.

이는 AI 연구 기관 SemiAnalysis로부터 최고 등급인 '플래티넘 등급'을 받은 유일한 클라우드 서비스 제공업체입니다. CoreWeave는 2017년에 설립되어 스타트업과 대기업에 대규모 GPU 컴퓨팅 파워를 제공합니다.

Key Context는 최근 CoreWeave의 공동 창업자이자 최고 개발 책임자(CCO)인 Brannin McBee와 기업 개발 및 투자자 관계 부사장인 Nick Robbins를 인터뷰하여 AI 수요와 네오클라우드 시장의 현황을 논의했습니다.

다음은 이번 대화에서 편집된 주요 내용입니다:

AI 수요 지속 심화

Tae: 에이전트 AI 수요 물결은 언제부터 폭발하기 시작했나요?

Brannin: 우리는 작년 4분기에 진정한 시작을 목격했습니다. 당시 고객들과 엔지니어링 수준에서 소통하며, 그들이 올해 1분기에 시장에 출시할 것으로 예상하는 제품에 대해 논의하고 있었습니다.

이는 항상 고객 수요를 바라보는 우리의 매우 중요한 관점이었습니다. 우리와 고객 사이에는 깊이 연결된 엔지니어링 관계가 존재합니다. 바로 이러한 관계 덕분에 우리는 변화가 발생한 후 수동적으로 대응하는 대신, 트렌드를 미리 예측할 수 있습니다.

AI 시장을 제품 관점에서 본다면, 1분기는 추론과 AI 소비에 큰 변곡점이 발생한 시점이며, 이러한 가속화는 현재까지 계속되고 있습니다.

Tae: 현재 AI 수요는 어떤 상태인가요? 몇 달 전과 비교해 최근 몇 주 동안 전혀 둔화 조짐이 없나요?

Nick: 매일 새로운 방식으로 심화되고 있는 것 같습니다.

Tae: 에이전트 AI 물결 속에서 GPU 대비 CPU 수요 상승 추세에 대해 말씀해 주세요. Nvidia GPU 서버 옆에 Vera CPU 랙을 줄지어 배치하고 계신가요?

Brannin: CoreWeave는 2023년부터 CPU를 운영해 왔습니다. 우리는 항상 완전한 클라우드 제품을 보유하고 있었습니다. 따라서 문제는 우리가 CPU를 추가하기 시작했는지 여부가 아니라, 고객이 정확히 무엇을 필요로 하는지입니다. 상대적인 의미에서 이러한 수요가 증가하고 있는지에 대한 답은 매우 명확하게 '그렇다'입니다.

에이전트와 추론 능력이 모델에서 본격적으로 부상하면서, 저장 용량에 대한 수요도 이전 세대에 비해 증가하고 있습니다. 저는 이러한 추세가 계속될 것이라고 생각합니다.

Nick: 질문에 대한 답은 '그렇다'입니다. 수많은 Vera CPU가 대량의 Vera Rubin 서버 옆에 배치되는 모습을 분명히 보게 될 것입니다. 작년에 우리는 사실상 기본 데이터센터 설계를 근본적으로 재구성하여, 더 많은 저장 공간과 더 많은 CPU가 GPU 옆에 배치될 수 있도록 여유를 확보했습니다.

우리가 이렇게 한 이유는 생태계 전체에서 매우 독특한 위치에 있기 때문입니다. 우리는 모든 최첨단 기술 사용자에게 서비스를 제공하는 유일한 독립 클라우드 서비스 제공업체입니다. 다른 독립 AI 클라우드 서비스 제공업체는 Anthropic, OpenAI, Meta, Google, Microsoft, Nvidia 등을 자체 고객으로 두고 있다고 말할 수 없습니다.

이는 우리 비즈니스에 유익한 플라이휠, 즉 긍정적인 피드백 루프를 창출합니다. 즉, 고객이 기술을 어디로 이끌고 있는지 이해하고 그에 따라 계획을 세울 수 있다는 것입니다.

병목 현상은 더 이상 GPU만이 아니다

Tae: 앞으로 주로 Nvidia Vera CPU를 사용할 예정인가요?

Nick: 이는 구체적인 워크로드에 따라 다릅니다. 우리는 고객 수요에 따라 움직입니다. 우리가 Vera CPU의 초기이자 중요한 채택자가 될 것이라고 예상하며, 이는 이미 공개한 바 있습니다. 현재 우리의 머신 플릿은 주로 AMD이지만, 시간이 지남에 따라 고객 수요에 따라 변경될 수 있습니다. 고객들의 Vera CPU에 대한 관심은 매우 높습니다.

Brannin: 이것은 또한 우리 계약이 어떻게 운영되는지 이야기할 수 있는 좋은 기회입니다. 아시다시피, 우리 수익의 98% 이상이 계약에 의해 주도됩니다. 우리는 고객이 원하는 인프라를 추측하지 않습니다. 고객은 필요한 구성을 매우 명확하게 알려줍니다. 모든 것은 고객에 의해 주도됩니다. 무엇을 구축할지 정의하는 것은 고객입니다.

Tae: 경쟁 구도에 대해 이야기해 보겠습니다. SpaceX, Nebius, Oracle과 같은 네오클라우드, 그리고 Azure, AWS, Google과 같은 하이퍼스케일 클라우드 서비스 제공업체를 상대로 어떻게 시장에 진출하고 경쟁하고 있나요?

Brannin: 차별화 측면에서 저는 제3자 검증의 관점에서 접근하고 싶습니다. 중국을 제외한 전 세계 상위 10대 AI 연구소 중 9곳이 우리 플랫폼을 사용하고 있습니다. SemiAnalysis는 항상 성능 측면에서 우리를 단독으로 최고 수준으로 평가해 왔습니다. 우리가 이러한 GPU 할당을 받을 수 있었던 것이 Jensen과의 개인적인 친분 때문이라고 생각하지 않습니다.

이는 공급업체가 당사의 실행 기록과 엔지니어링 역량에 대해 깊은 신뢰를 가지고 있으며, 당사가 전 세계적으로 그들의 제품 역량을 가장 잘 구현할 수 있다고 믿고 있음을 의미합니다.

Nick: 우리가 하이퍼스케일 클라우드 서비스 고객을 확보할 수 있었던 이유는 실행에 매우 능숙하기 때문입니다. 우리는 이러한 시스템을 매우 빠른 속도로 구축할 수 있으며, 시스템이 매우 잘 작동합니다. 연구소 고객을 확보할 수 있었던 이유는 가장 강력한 성능의 기술 버전을 제공하고, 토큰당 효율성에서 최고의 성과를 냈기 때문입니다.

기업 고객을 확보할 수 있었던 이유는 인프라가 실제로 잘 작동하고, 최고 수준의 오케스트레이션 레이어를 구축했기 때문이며, 이는 플래티넘 등급과 같은 인정의 원천이기도 합니다.

하지만 점점 더 중요한 것은, AI 클라우드 서비스 제공업체 중에서 우리가 추론 및 개발 도구를 포괄하는 가장 성숙한 레이어 역량을 구축하여 기업이 AI를 실제로 생산에 투입할 수 있도록 돕고 있다는 점입니다.

이는 우리가 기술 성숙도가 상대적으로 낮은 기업들이 데이터를 모델로, 모델을 내부에서 운영할 수 있는 에이전트로 전환할 수 있도록 돕는 제품을 구축 및 제공하고 있으며, 이 과정에서 CoreWeave 클라우드 서비스를 교차 판매할 수 있다는 것을 의미합니다.

Tae: 현재 병목 현상은 무엇인가요? 이미 전력 공급이 완료된 데이터센터 셸인가요? GPU인가요? 아니면 전기 기술자인가요?

Brannin: 전력 공급이 완료된 셸, 즉 powered shells입니다. 더 정확히 말하면, 이러한 셸 내부의 구성 요소입니다. 특히 전기 기술자를 언급하셨는데, 그것은 완전히 맞습니다. 이것은 복잡한 분야입니다.

하지만 중요한 점은, 우리는 이미 49개의 이러한 사이트를 가동하고 있다는 것입니다. 우리는 한두 개의 사이트에 희망을 걸고 있는 것이 아닙니다. 우리는 이미 49번을 해냈습니다.

이는 매우 깊은 실행 기록입니다.

이는 또한 우리가 공급망 문제를 처리하는 방법, 이 공급망에서 어떤 공급업체와 협력하는 것이 적합하고 어떤 공급업체가 적합하지 않은지에 대한 방대한 지식을 축적했음을 의미합니다.

편집자 주: powered shells는 실제 컴퓨팅 서버 하드웨어를 포함하지 않는 데이터센터 건물 자체를 의미합니다.

Tae: HBM 메모리의 비용과 부족 현상에 대해 무엇을 말씀해 주실 수 있나요? 어떻게 대응하고 계신가요? 고객이 가격 인상분을 부담해야 하나요?

Nick: 네, 맞습니다. 저희 비즈니스 모델은 GPU 구매 주문을 체결하고 지불할 비용을 확정하는 동시에, 고객에게 청구할 GPU 가격을 고정하는 방식으로 설계되어 있습니다. 더 넓게 말하면 서버 가격이며, 서버 가격에는 당연히 HBM 비용이 포함됩니다.

이것이 바로 일일 가격 변동의 영향을 차단하는 방식입니다.

다음 거래에서 부품 비용이 상승하면, 해당 비용을 고객에게 청구할 수 있다고 판단되는 가격에 반영하여 수익성을 보호합니다. 이러한 비용 전가 측면에서 저희는 잘 보호받고 있습니다. 이는 저희가 매우 면밀히 주시하는 부분입니다.

현재 부품 조달이 가장 큰 병목은 아닙니다. 가장 큰 병목은 'Powered Shell'입니다. 하지만 향후 특정 시점에는 이 답변이 바뀔 수도 있습니다.

Tae: Vera Rubin의 배포 확대가 어떻게 진행될 것으로 예상하십니까? 올해 하반기 상황은 어떨까요?

Nick: 저희는 분명히 전 세계 최초로 VR, 즉 Vera Rubin 랙을 가동하고 완전히 검증한 회사입니다. 작년에는 GB200, GB300에서도 그랬습니다. VR은 올해 후반부터 등장하기 시작할 것으로 예상합니다.

진정으로 대규모이면서 매우 강력한 배포 확대는 2027년 내내 이어질 것으로 예상합니다. 이는 GB와 유사한 흐름입니다. GB는 2025년에 등장하기 시작했지만, 실제 대규모 확대는 2026년 내내 이루어졌습니다. 즉, 작년 말에 이미 상당량이 배포되었지만, 올해가 GB의 진정한 대규모 배포의 해입니다.

향후 12~18개월 동안 VR도 매우 유사한 흐름을 보일 것으로 예상합니다.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia