원문 제목: 모두가 (AI) 스택을 지배하려 한다.
원문 저자: David Levy

편집자 주: AI 컴퓨팅 수요가 지속적으로 증가함에 따라, 신규 클라우드 기업들의 경쟁은 '누가 더 많은 GPU를 보유했는가'에서 '누가 하드웨어부터 소프트웨어까지 완전한 기술 스택을 통제할 수 있는가'로 전환되고 있다. 단순 GPU 임대가 점점 가격 경쟁에서 벗어나기 어려워지면서, 더 중요한 질문이 떠오르기 시작했다: AI 인프라의 가치를 결정하는 것은 GPU 자체인가, 아니면 GPU 운영 효율을 스케줄링, 오케스트레이션, 최적화하는 소프트웨어 계층인가?

이 글의 저자 David Levy는 Nscale가 약 16억 5천만 달러에 Anyscale을 인수한 사례를 시작으로, Nebius의 Eigen AI 인수, CoreWeave의 Weights & Biases 인수, IREN의 Mirantis 인수 등 거래를 정리했다. 다섯 건의 인수는 동일한 추세를 가리킨다: GPU, 전력, 데이터센터를 보유한 신규 클라우드 기업들이 집단적으로 MLOps 및 AI 오케스트레이션 계층으로 확장하고 있다는 것이다.

이 글의 핵심 판단은 신규 클라우드 기업들이 구매하는 것이 단순히 소프트웨어나 고객一批가 아니라, 'GPU 시간당 과금'에서 '작업 결과 기준 경쟁'으로 전환하는 능력이라는 점이다. 스케줄링 시스템은 하나의 작업이 얼마나 많은 GPU 시간을 소비할지 결정하며, 컴퓨팅 활용률, 고객 비용, 플랫폼 이익도 결정한다. 소프트웨어와 하드웨어 양쪽 계층을 장악하면, 업체는 공동 최적화를 수행할 수 있을 뿐만 아니라 더 깊은 시스템 통합을 통해 고객 전환 비용을 높이고, 효율성 향상으로 얻은 이익을 플랫폼 내부에 유지할 수 있다.

동시에, 통합은 역방향으로도 발생하고 있다. Lightning AI는 GPU 제공업체 Voltage Park와 합병했으며, Fireworks, Modal, Baseten 등 추론 플랫폼도 다양한 수준에서 기반 컴퓨팅 자원을 구축하거나 통제하고 있다. 인프라 기업은 소프트웨어를 위로 인수하고, 추론 플랫폼은 하드웨어를 아래로 확장하며, 양측은 반대 방향에서 같은 종착점을 향해 나아가고 있다: 컴퓨팅 자산과 오케스트레이션 소프트웨어를 동시에 장악하는 것이다.

이는 신규 클라우드 경쟁의 다음 단계가 더 이상 GPU 수량, 전력 계약, 전달 속도만 겨루는 것이 아니라, 전체 AI 워크로드에 대한 통제권을 두고 경쟁하는 것임을 의미한다. 진정한 장벽은 칩, 클러스터, 스케줄링, 추론 서비스를 하나의 효율성이 더 높고 고객이 떠나기 어려운 시스템으로 통합할 수 있는 능력에서 나올 수 있다. 다만 두 경로는 종착점이 같지만 비용 구조는 완전히 다르다: 신규 클라우드 기업은 인수를 통해 소프트웨어를 보완할 수 있는 반면, 추론 플랫폼이 인프라를 아래로 구축하려면 더 무거운 자본 지출을 감당해야 한다. 이는 두 번째 부분에 핵심 질문을 남긴다 — 모든 기업이 완전한 기술 스택을 통제하려 할 때, 누가 이 확장을 위한 충분히 저렴한 자금을 찾을 수 있을까?

이제 당신의 기술 스택에 오신 것을 환영합니다. 이제 돌아갈 수 없습니다.

AI 기술 스택은 '한 회사가 모든 것을 담당하는' 방향으로 수렴되고 있으며, 산업 체인의 양쪽 끝에서 모두 이러한 풀스택 역량을 구축하기 위해 경쟁하고 있습니다. 신규 클라우드 기업은 인수를 통해 위로 확장하고, 추론 플랫폼은 소프트웨어 계층에서 인프라 계층으로 확장하고 있습니다. 다만, 그중 한쪽만 충분한 자금을 빌릴 수 있습니다 — 하지만 그것은 나중에 다룰 이야기입니다.

지난주, 신규 클라우드 분야의 신규 플레이어 Nscale이 AI 오케스트레이션 소프트웨어 회사 Anyscale을 인수했습니다. 이는 지난 1년여 동안 최소 다섯 번째 'AI 인프라 기업의 AI 소프트웨어 기업 인수' 거래입니다.

간단히 말해, 삐삐를 차고 GPU 클러스터를 관리하는 기술 덕후들이, 후드티를 입고 새벽 2시에 코드를 커밋하는 기술 덕후들을 인수하기 시작한 것입니다 — 후자가 작성한 소프트웨어가 전자의 클러스터가 어떻게 작동할지를 결정하기 때문입니다.

Anyscale은 오픈소스 AI 워크로드 오케스트레이션 프레임워크 Ray의 배후 회사입니다. Ray는 창립 팀이 UC 버클리 재학 시절에 개발했습니다. 블룸버그 통신에 따르면, Nscale은 약 16억 5천만 달러를 투자하여 Anyscale의 상용 플랫폼, 엔지니어링 팀, 그리고 Coinbase, Runway, Bedrock Robotics 등의 고객을 확보할 예정입니다.

Ray는 2025년에 PyTorch 재단으로 이관되었으며, 앞으로도 오픈소스로 유지될 것입니다. Anyscale은 Nscale 산하의 AI 오케스트레이션 사업으로 계속 운영되며 Anyscale 브랜드를 유지할 것입니다 — Nscale에 인수된 후에는 이름 속 'A'와 'y'가 다소 불필요해 보이지만요.

이것은 단독 거래가 아닙니다. 올해 5월, Nebius는 6억 4,300만 달러에 Eigen AI를 인수했고, IREN은 Mirantis를 인수했습니다; 2025년에는 CoreWeave가 Weights & Biases를 인수했으며, 얼마 전에는 Qualcomm도 Modular 인수를 완료했습니다.

다섯 건의 거래가 모두 같은 방향을 가리킵니다: 하드웨어를 장악한 사람들이, 이 하드웨어가 어떻게 작동할지를 결정하는 소프트웨어 계층까지 더욱 통제하려는 것입니다.

참고로, 저는 이전에 이 글에서 이 트렌드를 다룬 적이 있으며, 거의 그대로 인용하자면: '또 하나의 AI 인프라 거래 — 하지만 사실 인프라 거래만은 아닙니다. 이를 간과하는 것은 실수가 될 것입니다.'

물론, 제가 평소에 많은 말을 하다 보니 가끔 맞히는 경우도 정상입니다.

신클라우드 기업들이 운영 및 오케스트레이션 계층을 인수하다

Porch Capital이 출시한 스타트업 기술 채택 모니터링 도구 STAX는 약 1만 2천 개의 벤처캐피탈 지원 기업의 기술 스택을 추적합니다. 그중 MLOps 카테고리의 데이터는 턱없이 부족합니다. 관련 도구를 채택한 기업은 단 58곳으로, 전체 표본의 약 0.5%에 불과합니다. 하지만 이 0.5% 안에 누가 있는지 살펴보면: Ray와 Weights & Biases가 해당 카테고리의 68개 채택 기록 중 60개를 합산하여 차지합니다. 참고로 일부 기업은 여러 도구를 동시에 사용할 수 있습니다.

7월 30일 기준으로 두 기업 모두 주인을 찾았습니다. CoreWeave가 Weights & Biases를 인수했고, Nscale이 Anyscale을 인수했습니다. 즉, 불과 18개월 만에 STAX 표본에서 상업적 가치가 있는 MLOps 계층의 거의 전체가 주인을 바꿨습니다.

거래 자체도 뉴스지만, 전체 카테고리의 통제권 이전이야말로 진짜 이야기입니다.

덧붙이자면, STAX의 MLOps 데이터가 이렇게 드문 이유는 애플리케이션 계층 기업들이 거의 자체적으로 MLOps 도구를 운영하지 않기 때문입니다. 적어도 외부에서는 보이지 않습니다.

이 역시 주목할 만한 발견입니다. 스타트업들은 보통 모델을 직접 호출할 뿐, 모델의 배포와 운영을 자체적으로 담당하지 않습니다.

그들이 실제로 인수한 것은 무엇인가?

많은 사람들이 베어 GPU 임대를 상품화된 비즈니스로 봅니다. 가격표를 만들고 시간당 요금을 부과하며, 어떤 해자도 없는 사업이라고 말입니다.

이런 주장은 너무 성급합니다. 전력 계약, 상호 연결 네트워크 토폴로지, 컴퓨팅 인프라 제공 시간은 모두 실제 경쟁 장벽입니다. 데이터센터 부지를 선정해 본 사람이라면 누구나 이를 이해합니다.

하지만 큰 방향에서 보면 이 판단이 완전히 틀렸다고 할 수도 없습니다. 적어도 모든 신클라우드 기업이 이 논리에 따라 행동하고 있기 때문입니다.

소프트웨어 계층의 가치는 경쟁을 '시간당 컴퓨팅 비용'에서 '작업 완료에 필요한 비용'으로 전환하는 데 있습니다. 또한 고객이 시스템 통합을 완료하면 단순히 다른 견적서 하나 때문에 쉽게 떠나지 않습니다.

인프라와 소프트웨어 레이어를 동시에 확보하면, 기업은 둘을 공동 설계할 수 있다. 이는 효율성 향상으로 인한 이익을 고객에게 더 낮은 청구서로 전부 넘기는 대신, 자신이 가질 수 있다는 것을 의미한다.

그래서 GPU 시간을 판매하는 회사가 스케줄링 시스템에 16억 5천만 달러를 지불할 의향이 있는 것이다.

스케줄링 시스템이 결정하는 것은 바로 하나의 작업이 정확히 몇 개의 GPU 시간을 소비할지이기 때문이다.

이제 방향을 반대로 바라보자

AI 인프라 기업은 소프트웨어를 인수하고 있고, AI 소프트웨어 기업은 역으로 인프라를 구축하고 있다.

그중 Lightning AI는 GPU 인프라 제공업체 Voltage Park와 25억 달러 규모의 합병 거래를 완료했으며, 합병 후 Lightning AI가 존속 회사로 남는다.

Fireworks, Modal, Baseten과 같은 추론 및 모델 서비스 플랫폼은 현재 '완전히 인프라를 임대하는 방식'부터 '자체 자산을 점점 늘려가는 방식'까지의 스펙트럼에 분포되어 있다.

그중 일부 기업은 전략적 원칙에 따라 자산 경량화 모델을 고수하고, 다른 기업은 자체 인프라 구축을 시작한다.

하지만 그들의 전략적 종착점은 Nscale, CoreWeave, Nebius와 다르지 않다: 하부 하드웨어를 소유하면서, 이러한 하드웨어를 오케스트레이션하는 소프트웨어 레이어도 통제하는 것이다.

종착점은 같고, 방향은 반대다

모두가 AI 기술 스택 전체를 장악하려 한다.

신생 클라우드 기업은 소프트웨어 레이어를 인수하며 위로 확장하고, 추론 플랫폼은 인프라를 구축하며 아래로 확장한다. 두 길은 같은 종착점으로 향하지만, 그중 한 길은 다른 길보다 훨씬 비용이 많이 든다.

[원문 링크]

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia