원문 제목: Charts of the Week: Head In The Neoclouds
원문 저자: Moses Sternstein, a16z

편집자 주: 생성형 AI가 새로운 컴퓨팅 투자 물결을 이끄는 가운데, AI 인프라에 대한 시장의 논의는 'GPU가 충분한가'에서 '누가 지속 가능한 방식으로 컴퓨팅 파워를 공급할 수 있는가'로 옮겨가고 있다. 모델 훈련, 추론 수요와 데이터센터 확장이 이미 공감대를 형성한 지금, 더 근본적인 문제가 떠오르기 시작한다: 컴퓨팅 수요의 고속 성장이 과연 안정적인 이익과 현금흐름으로 전환될 수 있을까?

a16z New Media가 발표한 《Charts of the Week》에서 저자 Moses Sternstein은 CoreWeave, Nebius, Applied Digital과 같은 신흥 클라우드 기업을 중심으로 AI 컴퓨팅 시장의 성장, 밸류에이션, 수익성 간의 모순을 논의하며, 나아가 수평적 SaaS, 모델 라우팅, 프런티어 연구소의 인재 경쟁까지 다룬다.

이 글에서 저자는 단순히 AI 수요가 강한지 여부를 판단하는 것이 아니라, 현재의 AI 거래를 더 근본적인 구조적 문제들로 분해한다: 기존 인프라가 어떻게 재평가되고 있는지, 매출 성장이 왜 시장 기대를 동시에 개선하지 못하는지, 그리고 AI 산업의 경쟁 초점이 왜 단순 확장에서 효율성과 수익성으로 이동하고 있는지가 그것이다.

첫째, 인프라 가치의 재발견이다. 과거 철도 연변의 토지, 천연가스 파이프라인, 케이블 TV 네트워크는 특정 산업을 위해 존재하다가 이후 통신 및 인터넷 인프라로 전환되었다. 오늘날 비슷한 자산 재평가가 다시 일어나고 있다. 일부 신흥 클라우드 기업은 원래 암호화폐 채굴을 위해 설립되었으며, 이미 전력, 서버실, 냉각 시스템, 고밀도 컴퓨팅 운영 경험을 보유하고 있었다. AI 수요가 폭발하자 이러한 역량은 빠르게 희소한 컴퓨팅 공급으로 전환되었다. 그 의미는 AI 인프라 경쟁이 완전히 백지 상태에서 시작하는 것이 아니며, 초기 우위는 종종 기존 자산, 에너지 자원, 엔지니어링 역량의 재조합에서 비롯된다는 점이다.

둘째, 매출 고성장과 수익성 불확실성의 공존이다. CoreWeave와 같은 신흥 클라우드 기업의 초기 매출 성장률은 한때 AWS 등 클라우드 거대 기업의 초기 단계를 능가했지만, 자본 시장은 동일한 수준의 인정을 주지 않았다. 그 이유는 신흥 클라우드가 전형적인 경량 자산 소프트웨어 사업이 아니기 때문이다. GPU 조달, 전력 연결, 데이터센터 건설, 칩 감가상각, 부채 이자는 규모에 따라 동시에 증가하며, 매출 성장보다 더 빠를 수 있다. 이는 매출 확장이 AI 컴퓨팅 수요가 활발하다는 것만 증명할 뿐, 비즈니스 모델이 충분히 높은 자본 수익률을 가진다는 것을 자동으로 증명하지 못한다는 뜻이다. 시장이 진정으로 기다리는 것은 이러한 기업들이 주문과 매출을 지속 가능한 잉여 현금흐름으로 전환할 수 있는지 여부다.

셋째, 소프트웨어의 가치가 AI의 영향에 따라 재분화되고 있다. 과거에는 생성형 AI가 SaaS 기업의 해자(moat)를 전반적으로 약화시킬 것이라는 우려가 있었지만, Atlassian의 성과는 AI가 고객 지출과 제품 충성도를 높이는 도구가 될 수도 있음을 보여준다. 동시에 사이버 보안 및 관측 가능성(observability) 소프트웨어는 계속해서 프리미엄 평가를 받고 있는데, 이는 AI가 잠재적 위험을 확대하고 기업들이 성숙한 솔루션에 대한 의존도를 높였기 때문이다. 이는 이른바 'SaaS 종말'이 균일하게 발생하지 않을 것임을 의미한다. AI가 제품을 대체하고 가격을 낮추는지, 아니면 수요를 확대하는지가 소프트웨어 가치 평가의 새로운 기준이 되고 있다.

넷째, AI 애플리케이션이 '토큰 쌓기'에서 '토큰 최적화'로 전환되고 있다. 과거에는 기업들이 가장 강력한 모델을 직접 호출하거나 엔지니어링 팀에 예산을 주고 자체적으로 실험하게 하는 경향이 있었다. 그러나 현재 Databricks와 같은 기업들은 스마트 라우팅을 통해 작업 난이도에 따라 가격과 성능이 다른 모델을 매칭하여 효과를 유지하면서 비용을 절감하고 있다. 토큰 단가 하락이 반드시 AI 총지출 감소를 의미하는 것은 아니다. 단위 비용이 낮아지고 적용 시나리오가 늘어나면 토큰 소비 총량과 전체 시장 규모는 여전히 증가할 수 있다. 효율성과 수요는 상호 배타적이지 않으며, 오히려 서로를 강화하는 순환을 형성할 수 있다.

이 글을 하나의 판단으로 압축하자면, AI 인프라는 고속 성장을 창출할 수 있음을 입증했지만, 다음 단계의 승패는 기업이 성장을 더 높은 자본 효율성으로 전환할 수 있는지에 달려 있다. 이러한 의미에서 이 글이 논의하는 대상은 CoreWeave와 같은 기업들이 차세대 클라우드 거대 기업이 될 수 있는지에 국한되지 않고, AI 산업 전체가 연산력 확장에서 지속 가능한 상업적 수익으로 나아갈 수 있는지에 관한 것이다.

다음은 원문 내용이다:

머리 위의 '새로운 클라우드'

20세기 초, 남태평양 철도 회사(Southern Pacific Railroad)는 미국 각지의 도시와 마을을 연결하는 정리된 토지 위에 방대한 유휴 건설권을 보유하고 있었다. 철도 노선권은 철로 자체보다 훨씬 넓은 범위를 포함했기 때문에, 선로를 따라 개발 가능한 회랑이 많이 남아 있었다.

그리하여 이 철도 회사는 철도 선로를 따라 통신 네트워크를 구축하고 이를 '남태평양 철도 내부 네트워킹 전화 시스템'(Southern Pacific Railroad Internal Networking Telephony)이라고 명명했다. 1970년대에 이르러 회사는 이 네트워크를 상업화하여 더 넓은 사용자층에게 개방하기 시작했다.

이후 두 가지 일이 동시에 발생했다. 한편으로는 장거리 전화 시장의 독점 구도가 종말을 맞이했고, 다른 한편으로는 광섬유 케이블이 상업적으로 실현 가능해지기 시작했다. 기존 통신 회랑은 광섬유 회선으로 개조되었고, 이 네트워크는 이후 영어 약자인 'Sprint'로 널리 알려지게 되었다. 한때 철도를 위해 사용되던 자산이 통신 혁명의 인프라 기반이 된 것이다.

기존의 물리적 네트워크를 더 큰 규모의 상업 기술 인프라로 탈바꿈시킨 것은 철도 회사만이 아니었다.

1980년대, 윌리엄스 컴퍼니(Williams Company)는 유휴 천연가스 파이프라인을 광섬유 채널로 개조하여 WilTel을 설립했다. 이 회사는 이후 매각되었고, 결국 WorldCom으로 이름을 바꾸었다. 1990년대에는 케이블 TV 사업을 위해 설치된 단방향 동축 케이블도 대규모의 고비용 업그레이드를 거쳐, 결국 Comcast와 Charter가 소비자에게 광대역 인터넷 서비스를 제공하는 인프라가 되었다.

이것은 또 다른 유형의 기업을 떠올리게 한다. 이들 역시 기성 인프라를 보유하고 있으며, 이러한 자산은 현재 신흥 기술의 수요를 충족시키기 위해 대대적으로 개조되고 재평가되고 있다. 바로 '뉴클라우드'(neocloud) 기업이다.

간단히 요약하면, 뉴클라우드 기업들은 대부분 원래 에너지 및 컴퓨팅 집약적인 암호화폐 채굴 사업을 하다가 AI 물결이 도래했다. 갑자기 전력 사용권, 인프라, 그리고 고강도 컴퓨팅 부하를 구축하고 관리하는 경험을 가진 자—CoreWeave의 경우에는 대량의 GPU까지 포함—가 현재 가장 뜨거운 트랙 중 하나에 서게 된 것이다.

물론, 이것은 엄밀한 의미의 동일 비교는 아니다. 하지만 상장된 상위 3대 뉴클라우드 기업을 살펴보면, 그 매출 성장률은 확실히 주목할 만하다.

우리는 하이퍼스케일 클라우드 서비스 제공업체의 초기 클라우드 사업 매출을 추정할 수밖에 없지만, 대략적인 추세는 이미 분명하다. 뉴클라우드 기업들의 성장 속도는 매우 빠르며, 명백히 3대 클라우드 제공업체의 초기 성장 속도보다 빠르다.

참고로, 전체 컴퓨팅 판매 시장에서 뉴클라우드 기업들은 현재 여전히 상대적으로 작은 참여자에 불과하다.

그들은 하이퍼스케일 클라우드 제공업체의 규모에 도달하기까지는 아직 갈 길이 멀다.

하이퍼스케일 클라우드 제공업체가 분기마다 창출하는 매출은 뉴클라우드 기업보다 몇 자릿수 더 높다. 하지만 동시에, CoreWeave는 약 25분기 만에 AWS가 출시 후 40분기 만에 도달한 26억 달러 매출을 달성했다. 다시 한번 강조하지만, 이 기업들의 성장 속도는 정말로 매우 빠르다.

이렇게 높은 성장률을 보유하고 AI 산업의 순풍을 타고 있다면, 투자자들이 상당히 흥분해야 할 것이다. 어느 정도는 그렇지만, 실제 상황은 더 복잡하다.

이들 기업의 최근 실적 발표는 전반적으로 양호했지만, 지난 1년간 CoreWeave의 주가는 여전히 약 16% 하락했습니다. Nebius만이 이전 고점에 비교적 근접한 수준입니다.

따라서 이 이야기는 전반적으로 여전히 긍정적이지만, 규모가 가장 큰 신규 클라우드 기업에게는 매력이 확실히 다소 약해 보입니다.

최근 시장 성과가 상대적으로 평범한 이유 중 일부는 많은 성장 기대치가 이미 밸류에이션에 반영되었을 수 있기 때문입니다.

신규 클라우드와 같은 자본집약적 기업의 경우, 주가매출비율(PSR)이 가장 적합한 밸류에이션 지표는 아니지만, 문제를 설명하는 데는 여전히 직관적입니다. 규모가 작고 성장이 더 빠른 Nebius와 Applied Digital은 훨씬 더 큰 규모의 CoreWeave보다 밸류에이션 프리미엄이 훨씬 높습니다. CoreWeave의 매출은 여전히 두 배로 성장하고 있지만, 최상위 기업의 400%~450% 성장률에는 미치지 못합니다.

신규 클라우드 기업에 실제로 문제가 있다면, 그것은 성장이 아니라 장기 수익성입니다. 신규 클라우드 기업은 규모를 확장하기 위해 칩, 전력, 물리적 인프라에 지속적으로 투자해야 하며, 이러한 비용은 모두 낮지 않습니다:

CoreWeave의 경우를 예로 들면, 매출 성장은 확실히 인상적이지만 자본 지출은 훨씬 더 놀랍습니다. 다른 막대한 비용으로는 칩 감가상각(감가상각 금액이 이미 매출의 절반을 초과)과, 고가의 인프라를 선제적으로 구축하기 위해 조달한 부채에서 발생하며 여전히 증가하고 있는 이자 비용이 있습니다.

이 글은 신규 클라우드 기업이 궁극적으로 성공할 수 있을지, 또는 현재 주가가 합리적인지에 대해 판단을 내리려는 것이 아닙니다. 주제 자체의 인기 외에, 여기서 진정으로 말하고자 하는 것은 신규 클라우드 기업이 전체 AI 거래에서 롱숏(다자 대 공방)의 축소판을 정확히 구성하고 있다는 점입니다.

한편으로, 이들은 모든 사람의 기존 예상을 훨씬 뛰어넘는 규모로 계속 확장되고 있는 수직 시장, 즉 컴퓨팅 파워 시장에 자리 잡고 있으며 역사적으로 유례없는 성장 속도를 창출하고 있습니다. 다른 한편으로, 이러한 기업을 구축하는 비용도 사상 최고 수준으로, 막대하고 지속적으로 감가상각되는 고정 인프라 투자가 필요합니다.

수평적 SaaS의 회귀?

아래에서 'SaaS 종말'에 대한 변화하는 시장 지형을 간략히 업데이트합니다. 이전 소프트웨어 대규모 매도에서 가장 큰 타격을 입은 기업 중 하나가 최근 한 달간 상당히 좋은 성과를 보이고 있습니다.

지난 30거래일 동안 수평적 소프트웨어 기업들은 IGV 소프트웨어 ETF 구성 종목 중 상위권 성과를 기록했습니다. 다만 이 데이터 수집 시점 이후 일부 상승분을 반납했습니다.

전반적으로 이러한 기업들의 펀더멘털은 여전히 견조합니다. 특히 Atlassian은 시장이 이전에 예상했던 것처럼 AI 충격으로 쇠퇴하지 않았습니다.

이 생산성 소프트웨어 기업은 실적과 가이던스 모두에서 '서프라이즈'를 기록했습니다: 클라우드 사업 매출은 전년 동기 대비 31% 성장했고, 수주 잔고의 성장률은 더 높았습니다. 하지만 더 중요한 신호는 AI가 성장의 걸림돌이 아닌 촉진제가 되고 있다는 점입니다. Atlassian은 자사의 AI 어시스턴트 Rovo가 광범위하게 채택되었다고 밝혔으며, Rovo를 사용하는 고객의 지출 성장률은 비 Rovo 사용자에 비해 거의 두 배에 달합니다.

이는 Atlassian에게 좋은 소식이고, Rovo에게 좋은 소식이며, 수평적 SaaS에게도 좋은 소식입니다.

다만 수평적 SaaS의 전체적인 밸류에이션은 여전히 다른 소프트웨어 카테고리에 비해 다소 낮은 수준입니다.

소수의 예외를 제외하고, Atlassian을 포함한 수평적 SaaS 기업들의 예상 주가매출비율(PSR)은 일반적으로 '성장률-밸류에이션 배수' 추세선이 제시하는 수준에 미치지 못합니다.

다시 강조하지만, 수평적 SaaS는 단지 비교적 괜찮은 '한 달'을 보냈을 뿐입니다. 시장이 'SaaS 종말론'이 취소되었다고 믿게 하려면 한 달의 성과만으로는 턱없이 부족합니다.

물론, 귀하의 소프트웨어 사업이 사이버 보안이나 옵저버빌리티 분야에 속한다면 이야기는 다릅니다 — 이러한 기업들에게 소위 'SaaS 종말'은 결코 발생한 적이 없습니다.

사이버 보안 섹터는 계속해서 IGV 소프트웨어 ETF 내 다른 카테고리를 크게 앞서고 있습니다. 이 분야에서 AI는 오히려 순풍 요인이 되고 있습니다: 시장은 AI가 사이버 보안 위협에 대한 리스크 인식을 높였다고 보고 있으며, 어떤 기업 고객도 '바이브 코딩'(vibe coding)으로 임시방편적인 자체 보안 솔루션을 구성하지 않을 것이라고 봅니다.

이 논리가 궁극적으로 성립할 수 있을지는 물론 시간이 필요합니다. 하지만 적어도 현재로서는 전통적인 소프트웨어 기업들의 처지가 결코 획일적이지 않습니다.

투자자들은 AI가 각 기업에 이익을 가져다줄지, 아니면 잠식을 초래할지에 대해 높은 관심을 가지고 있으며, 새로운 데이터가 나올 때마다 기존 판단을 수정하고 있습니다 — 이는 당연한 일입니다.

토큰 투입의 효율성 프런티어로

모델 사용, 토큰 소비 및 토큰 지출 관리에 관한 시장 환경은 여전히 다양한 흥미로운 방식으로 진화하고 있습니다.

Databricks를 예로 들어 보겠습니다.

「어떤 모델을 사용해야 하는가」「어떤 모델이 가장 좋은가」라는 질문에 대해 Databricks는 승자 독식(winner-takes-all) 방식을 취하지 않았고, 단순히 엔지니어에게 예산을 주고 알아서 쓰게 하지도 않았습니다. 대신 다음과 같은 질문을 던졌습니다. 「적절한 작업을 적절한 모델에 자동으로 할당하는 방안을 개발하면 어떨까?」

Databricks가 이런 접근을 하는 유일한 기업은 물론 아니지만, 자체적으로 개발한 「스마트 라우터」(Smart Router)의 실제 효과에 상당히 만족하고 있습니다.

Databricks의 라우터는 필요할 때 더 강력하고 비용이 높은 모델을 호출하고, 조건이 허용될 때는 성능이 낮고 비용이 저렴한 모델을 사용하여 「평균 작업 비용을 지속적으로 30% 이상 절감」한다고 합니다.

전반적으로 Token 지출의 「효율성 프런티어」를 추구하는 것이 나쁜 일이 되기는 어렵습니다. 이는 수요가 계속 성장하고 있으며, 애플리케이션 시나리오가 성능 최전선에서 계속 진화할 뿐만 아니라 성능이 덜 뛰어난 모델로도 확산되고 있음을 의미합니다. 초기의 비관적 서사에서는 이러한 차선 모델들이 빠르게 도태될 것이라고 예상되었습니다.

앞서 언급했듯이, 효율성 향상은 수요의 적용 범위를 확대하며, 이는 시장이 기대하는 제번스 역설(Jevons Paradox)과 유사한 역학입니다.

Silicon Data의 Token 가격 강도 지수에 따르면, 전반적인 가격 강도가 하락하고 있으며, 특히 더 저렴한 오픈 모델이 지속적으로 확장되는 시장에서 더 높은 점유율을 차지함에 따라 더욱 두드러집니다.

여기서 자주 오해되는 개념을 다시 한 번 명확히 할 필요가 있습니다. 이러한 지수는 Token 지출의 비용 강도를 측정하는 것이지, 절대 달러 금액을 측정하는 것이 아닙니다. 이는 Token 소비량과 Token의 종합 비용에 동시에 의존합니다. 즉, Token당 가격이 하락하더라도 총 Token 소비량과 총 지출 금액은 여전히 증가할 수 있습니다.

진정으로 중요한 것은 전체 수요가 여전히 성장하고 있으며, 가격 책정과 모델 선택이 점차 효율성 프런티어로 이동하면서 이러한 성장을 더욱 촉진한다는 점입니다. 특히 주목할 만한 점은 「AI 수요」 또는 「AI 채택」이 단일하고 동질적인 개념이 아니라는 것입니다. 헤비 유저와 다른 사용자 사이에는 여전히 큰 격차가 존재합니다. 이는 「항상 최고의 모델을 사용하는 것」이 일부 기업에는 적합할 수 있지만, 모든 기업에 적합한 것은 아님을 분명히 보여줍니다.

오늘날 시장에서는 더 많은 대체 옵션이 빠르게 형성되고 있습니다. 전반적으로 이는 좋은 일입니다.

기업 지출 관리 플랫폼 Ramp의 데이터에 따르면, 모든 기업이 AI 지출을 늘리고 있지만, 지출 중앙값과 상위 10% 기업 간, 그리고 상위 10%와 상위 1% 기업 간의 격차는 모두 극심하게 벌어져 있습니다.

Ramp의 데이터는 일반적으로 기술 기업에 더 치우쳐 있으므로 해석 시 이를 고려해야 합니다. 하지만 데이터에 따르면 지출 상위 10% 기업의 1인당 AI 지출은 중앙값 기업의 약 50배에 달합니다.

이러한 분포는 우연히 형성되었을 가능성이 낮습니다. AI 지출에서 더 많은 가치를 창출할 수 있는 기업이 바로 가장 많이 투자하는 기업일 가능성이 높습니다—모든 기업이 그렇지는 않더라도, 상당수 기업이 이 패턴에 부합합니다.

보스턴컨설팅그룹이 상장기업 107곳을 분석한 결과, Token 사용량 기준 상위 2개 5분위 그룹에 속한 기업들의 매출 성장률이 다른 기업들보다 눈에 띄게 빨랐습니다.

여기서 전달하려는 핵심은 Token 수요와 사용 효율성이 서로를 강화하고 있다는 점입니다. 기업이 얻는 가치가 많을수록 소비하는 Token도 많아집니다.

물론 이 과정에는 투입과 산출 사이의 반복적인 트레이드오프가 존재하며, 연구개발에는 항상 일부 선행 비용이 포함됩니다. 하지만 대다수 기업에게 무분별하게 Token을 '쌓아 올리는' 방식은 결코 효과적인 전략이 아니었습니다.

따라서 기업들이 앞으로 점점 더 그러한 방식을 취할 필요가 없어지는 것은 분명히 좋은 일입니다.

프런티어 연구소 인재 쟁탈전

New Media는 최근 훌륭한 팀원 두 명이 OpenAI에 합류했습니다. 그래서 마지막으로 프런티어 AI 연구소의 인재 채용 상황을 보여주는 몇 가지 흥미로운 차트를 소개합니다.

Dario Amodei는 최근 직원들이 사명보다 돈을 우선시하는 것을 우려한다고 밝혔습니다. Levels.fyi의 데이터를 보면 이러한 우려가 근거 없는 것은 아닙니다.

데이터를 표면 그대로 해석한다면, Anthropic은 엔지니어에게 매우 높은 보상을 제공하며, 구글이나 테슬라 등 기업의 동급 경력 엔지니어보다 훨씬 높은 수준입니다.

기술 팀원이 된다는 것은 확실히 좋은 일인 것 같습니다.

또한, 흥미로운 데이터 세트도 하나 있습니다.

Live Data Technologies의 데이터에 따르면——Truist Securities가 정리·제시한——각 연구소의 인재 출처는 상당 부분 겹치면서도 뚜렷한 차이를 보입니다:

두 회사 모두 초대형 시가총액 기술 기업에서 많은 인재를 채용했지만, OpenAI만 엔비디아와 테슬라에서 인재를 영입했으며, 이는 모두 2026년에 이루어졌습니다.

Databricks, Snowflake(최근), Palantir, DeepMind 역시 두 회사가 공통으로 인재를 확보한 곳입니다.

두 연구소 모두 Salesforce와 Stripe에서도 상당수의 직원을 채용했습니다.

하지만 양측의 겹침은 여기까지인 듯합니다. Anthropic은 SaaS 기업에서 많은 인재를 채용한 반면, OpenAI는 거의 채용하지 않았습니다. 반면 OpenAI는 소비자 인터넷, 플랫폼 시장, 광고 기술 기업에서 대거 인재를 영입했으며, Anthropic은 Airbnb, Netflix, Uber를 제외하고는 이러한 분야에서 상대적으로 적은 채용을 했습니다.

이러한 차이가 무엇을 의미하는지는 각자의 해석에 맡기겠습니다.

[원문 링크]

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia