AI 산업의 수익 현황은, 이전 기술 산업 성장을 주도한 클라우드 컴퓨팅 산업과 전혀 다릅니다. 전통적인 클라우드 컴퓨팅 스택에서는 칩 수익층이 수익의 6%를 차지하고, 응용 프로그램 층이 70%를 차지합니다.

Agrawal은 현재의 경쟁 구도를 정확하게 요약했습니다: 칩 수익층은 싱글 플레이어 게임이고, 응용 프로그램 층은 멀티 플레이어 게임이며, 중간의 인프라 층은 유일하게 실제로 진행 중인 멀티 플레이어 전투입니다.

NVIDIA의 독주

두 번째 강의는 Altimeter의 파트너인 Brad Gerstner와 NVIDIA의 Sunny Madra가 진행했습니다. Sunny는 원래 Groq의 투자자였으며, Groq가 NVIDIA에 인수되는 거래를 중계한 경험이 있으며, 이 두 사람은 NVIDIA가 왜 칩 수익층에서 독보적인 성과를 지속할 것인지 설명했습니다.

Brad는 직관에 반하는 한 그룹의 평가를 내놓았습니다. NVIDIA의 시가총액은 4.5 조 달러이며, 주가 이익 비율은 13배이며 시장 가치의 절반에 불과하며, 매출은 연간 70% 증가합니다. 그는 NVIDIA가 다음 8분기 동안 이미 1조 달러의 주문을 확보했으며, 수요가 공급을 크게 초월했다고 공개적으로 예측했습니다. 그의 이유는, NVIDIA가 세계 최초의 10조 달러 기업이 될 것이라고 예측한 것입니다. 그의 신뢰의 배경에는 사전 훈련에서 추론 시대로의 기술적 논리가 있습니다 - 각 토큰 생성당 계산량은 모델 매개변수 양에 위아래 문맥 길이를 곱한 것입니다.

자체 칩을 개발한 경쟁 업체도 많습니다. Google의 제7세대 TPU Ironwood는 이미 양산을 시작했으며, Anthropic은 100만 개를 주문했으며, 이에 따라 NVIDIA가 일부 고객에게 30%의 가격 인하를 강요했다는 소문이 있습니다. 아마존의 Trainium2 칩은 이미 140만 개의 인스턴스를 배포하고 있으며, 관련 비즈니스의 연간 수익은 100억 달러를 넘었으며, Microsoft의 Maia 200은 1월에 Azure에 론칭되었으며, OpenAI는 Broadcom과 10기가와트의 자체 ASIC 계약을 체결했습니다.

황인훈은 이에 대해 가벼운 태도로 말했습니다: "많은 ASIC 프로젝트는 결국 폐기될 것입니다." 역사적으로 볼 때, 그가 틀리지 않았습니다. 한 발 물러나 얘기하자면, TPU, Trainium, Maia가 모두 성공적이더라도, NVIDIA는 여전히 선두 주자입니다. 상기 모든 것들이 NVIDIA를 대체할 수 없음을 시사하는 것은 아니며, 이는 이 시장이 얼마나 큰지를 나타내는 것입니다.

비싼 전기 기사

세 번째 강의는 Crusoe의 창업자 체이스 로흐밀러였습니다. Crusoe는 Texus 주 서부의 작은 도시인 애빌린에 2.1 기가 와트의 데이터 센터 파크를 건설했으며, 이는 미국에서 가장 큰 사설 발전소이며, 전력 사용량은 덴버 두 개 도시에 버금가는 수준입니다. 최초 입주 기업은 오라클(Oracle)과 OpenAI입니다. 파크에는 연중 9000명의 건설 노동자가 상주하며, 이 작은 도시의 인구는 12만 명에 불과합니다.

체이스는 각 메가와트 전력의 비용 구성을 분리하는 슬라이드를 제시했습니다: 총 비용은 약 1900만 달러이며, 가장 큰 항목은 노동력으로, 메가와트 당 470만 달러로 매우 높으며, 칩 및 냉각 장비 비용은 훨씬 낮은 수준에 있습니다. 이렇게 계산하면 기가와트(GW)급 파크는 노동력 항목만 연간 47억 달러를 소비할 것입니다.

노동 인건비 이외에도 가스 터빈의 1MW 당 비용은 100만 달러에서 300만 달러로 3년 사이에 증가했습니다. 이유는 GE Vernova, Siemens, Mitsubishi Heavy Industries 및 Pratt & Whitney와 같은 4대 제조업체의 생산 능력이 제자리걸음을 하고 수요는 여러 배 증가했기 때문입니다.

Chase는 Eaton, Schneider와 같이 수년 동안 크게 변화하지 않은 전기 장비 거물을 비난합니다. 장기적인 관점에서, 전력 아키텍처가 765kV 고압에서 900V 직류로의 전체 변환은 반드시 재설계되어야 하며, 비록 단기적으로 이러한 전통적인 공장들은 계속 혜택을 받을 것입니다.

조직 구조가 AI 발전에 뒤처지고 있음

4회차 강의의 초대 손님은 소프트웨어 회사인 Databricks의 CEO Ali Ghodsi였습니다. 그는 날카로운 견해를 제시했습니다: AGI가 이미 구현되었다고요. 현재의 AI 모델은 이미 2009년 버클리 AMP 연구소에서 AGI에 대해 정의한 기준을 충족시켰습니다. 골은 이미 넣어진 상태이며, 사람들은 여전히 골대를 뒤로 빼려고만 합니다.

사람들이 AI가 여전히 기대에 미치지 못하는 것으로 생각하는 이유는 자신이 빈약하다는 데 있습니다.

MIT의 보고서에 따르면, 95%의 기업 AI 시범 사례가 실패했는데, Ali는 모델이 기록되지 않은 그 조직 내 맥락을 부족했기 때문이라고 설명했습니다.

모든 기업에는 20년째 근무한 한 명의 고직원이 있습니다. 모든 사람이 문제를 마주했을 때 그에게 물어보지만, 그의 머릿속에 있는 정보는 어떤 모델에도 들어가지 않았습니다.

대조적으로, 전기 모터는 1880년에 발명되었지만, 생산성이 통계적으로 유의미하게 향상된 것은 1920년대였습니다. 그 40년 동안 기업들은 단지 즉흥적으로 증기 기관을 전기 모터로 바꿨지만, 공장의 전체 레이아웃을 완전히 바꿔야 할 필요는 없었습니다.

Databricks는 자체적으로 함정에 빠졌는데, 초기에 3분기가 필요했던 데이터 커넥터를 AI에게 맡겼을 때 단 두 달반만에 시간을 절약했습니다. 후에 전체 과정을 버리고 다시 시작할 수 있는 담당자를 배정하자 1분기 동안 모두 완료했습니다. 시간을 절약한 것은 모델 버전 업그레이드가 아니라 그 과정을 다시 설계한 사람입니다.

Ali는 응용 프로그램 수준에서의 큰 기회가 반드시 나타날 것이며, 조직 논리를 다시 쓰려는 용감한 참가자들에게 집중될 것이라고 봅니다. 이러한 사안의 진전 속도는 GPT-6, Opus-5에 의존하는 것이 아니라 사람에 달렸습니다.

역삼각형

기술 스택에서 가치는 하드웨어부터 소프트웨어와 응용프로그램으로 올라가게 됩니다.

클라우드 컴퓨팅 산업은 하드웨어 중심에서 소프트웨어 중심으로의 전환이 완성되기까지 15년이 걸렸습니다. AI 스택은 동일한 가치 전환을 이루기 위해, 응용프로그램 층이 계속해서 성장하던가, 아니면 칩셋 층의 총수익률이 하드웨어 시대와 같은 6% 수준으로 수렴할 때까지 기다려야 합니다. 현재 양쪽 다 변화하고 있지만 속도가 충분하지 않습니다. 지난 두 해의 변화 속도를 고려하면, 응용프로그램 층이 클라우드 컴퓨팅 시대의 수준에 도달하려면 적어도 10년은 걸릴 것으로 예상됩니다.

따라서 현재 칩셋 층에 베팅하는 것은 미래 2년 이내에 현금 흐름을 확보할 것으로 보는 것이며, 응용프로그램 층에 베팅하는 것은 5~10년 후 가치 상승의 큰 트렌드를 예측하는 것입니다.

칩셋 층의 총수익률이 붕괴하는 기술 혁명이 오기 전까지, 칩에 가까울수록 수익도 가깝습니다.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia