원문 제목: The bottleneck isn't the model. It never was.
원문 저자: Saket Mehrotra, Beta to Alpha

편집자 주: 최근 OpenAI와 Anthropic에서 사전 학습 작업을 했던 Jacob Coxon이 Anthropic을 떠나며, 선도적인 AI 연구소들이 모델 능력의 지속적인 향상을 협력하여 제한할 것을 공개적으로 촉구했습니다. Anthropic의 정렬 과학 책임자인 Evan Hubinger는 이후 이에 응답하며, Coxon의 위험에 대한 주요 판단에 동의하고, 향후 10년 내 AI로 인한 인류 멸종 확률을 10% 이상으로 추정한다고 밝혔습니다.

이 논쟁은 'AI 감속'을 윤리적 의제에서 자본 시장으로 밀어내고 있습니다: 만약 최전선 연구소들이 실제로 모델 연구 개발을 늦춘다면, 지난 몇 년간 계속 상향 조정되어 온 AI 자본 지출도 변곡점을 맞이하게 될까요? AI 내러티브에 힘입어 밸류에이션 프리미엄을 얻은 기술주들도 재평가가 필요할까요?

Beta to Alpha의 저자 Saket Mehrotra는 《The bottleneck isn't the model. It never was.》라는 글에서 연구소의 AI 위험에 대한 우려와 인프라 투자 냉각은 별개의 문제라고 제시합니다. 각 기업이 경쟁에서 뒤처질까 봐 여전히 걱정하는 한, 안전에 대한 불안은 계속해서 컴퓨팅 투자를 촉진할 수 있습니다; 동시에 산업의 병목은 GPU, HBM, 첨단 패키징에서 점차 전력과 전력망으로 이동하고 있습니다.

이것이 AI 감속이 시장에 아무런 영향을 미치지 않는다는 것을 의미하지는 않습니다. 더 정확히 말하면, 영향은 감속이 어느 계층에서 발생하는지에 달려 있습니다: 단순히 안전 테스트를 연장하고 모델 출시를 늦추는 것이라면 CapEx가 반드시 감소하지는 않을 것입니다; 정부가 직접 훈련 클러스터, 칩 공급 또는 데이터 센터 전력 사용을 제한한다면, 전체 투자 프레임워크가 근본적으로 변화할 수 있습니다.

다음은 원문 번역입니다:

Jacob Coxon이 X에 퇴사 성명을 발표하며 최전선 AI 연구소들이 능력 경쟁을 협력하여 늦출 것을 촉구하다

Jacob Coxon의 퇴사는 다시 한번 최전선 AI의 위험을 전면에 부각시켰습니다.

Coxon은 OpenAI와 Anthropic이 자기 개선이 가능한 초지능을 개발하기 위해 경쟁하면서도 충분히 책임 있는 안전 조치를 취하지 않고 있다고 생각합니다. 이것은 외부 비판자들의 고립된 목소리가 아닙니다. Anthropic의 정렬 과학 책임자인 Evan Hubinger는 이후 공개적으로 Coxon의 주요 판단에 동의하며, 향후 10년 내 AI로 인한 인류 멸종 확률이 10%를 넘는다고 추정했습니다. 관련 발언은 WIRED 등 매체의 보도도 받았습니다.

그러나 투자자들에게는 또 다른 문제가 더 직접적일 수 있습니다: 최전선 연구소들이 속도 조절을 논의하기 시작할 때, 기술 기업들의 AI 자본 지출도 함께 감소할까?

Mehrotra는 적어도 현 단계에서는 이 둘을 직접적으로 동일시할 수 없다고 봅니다. AI 안전 논쟁은 모델과 연구소 거버넌스 차원에서 발생하지만, 이번 CapEx 사이클의 제약은 이미 칩, 패키징, 전력, 데이터센터 등 물리적 인프라로 점차 내려갔다는 것입니다.

경쟁에서 질까 더 두려울수록, 연구소는 자발적으로 속도를 줄이기 어렵다

Coxon의 설명에 따르면, 최전선 연구소들이 위험을 인식하지 못하는 것은 아닙니다. 진짜 문제는 어느 연구소도 먼저 속도를 늦추려 하지 않는다는 점입니다.

그 안의 게임 이론적 논리는 이렇습니다: 한 연구소가 속도를 줄이기로 선택하면, 안전 의식이 더 약한 다른 경쟁자가 더 강력한 모델을 먼저 개발할 수 있습니다. 충분히 신중하지 않은 경쟁자가 먼저 돌파하도록 두기보다는, 계속 자원을 투입해 자신이 선두주자가 되고 더 안전한 방식으로 기술을 통제하려 한다는 것입니다.

저자에 따르면, 이런 사고방식은 자본 지출 축소로 이어지기 어렵고, 오히려 군비 경쟁을 강화할 수 있습니다. 연구소가 자신이 결정적인 기술 경쟁에 참여하고 있다고 더 믿을수록, GPU 구매, 훈련 클러스터, 데이터센터 투자를 줄이기 더 어려워집니다.

따라서 안전 불안과 CapEx 증가는 동시에 존재할 수 있습니다. 이는 심지어 자기 강화 순환을 형성할 수도 있습니다: 연구소는 AI 능력의 빠른 향상을 걱정하면서도, 경쟁자에게 뒤처질까 봐 더 많은 자원을 투입해 능력 경쟁을 더욱 가속화합니다.

이는 저자가 업계 게임 구조를 설명한 것이지, 이미 기업의 자본 지출 계획으로 입증된 결과가 아닙니다. 이 논리가 성립하는지 판단하려면, 주요 클라우드 기업과 AI 연구소가 실제 조달 및 건설 계획을 조정하기 시작하는지 계속 지켜봐야 합니다.

모델 속도 조절이 인프라 사이클의 종료를 의미하지는 않는다

Mehrotra의 두 번째 판단은 AI 산업의 핵심 병목이 여러 번 이동했고, 그때마다 자본 집약도가 높아졌다는 것입니다.

처음에 모델 훈련을 제한한 것은 GPU 공급과 칩 할당량이었고, 이후 병목은 HBM 고대역폭 메모리와 첨단 패키징으로 옮겨갔으며, 현재는 전력 공급, 전력망 접속, 데이터센터 건설이 더 빠르게 해결하기 어려운 제약이 되고 있습니다.

칩과 패키징 능력은 생산 라인 확충으로 완화할 수 있지만, 전력 문제는 일반적으로 발전 설비를 건설하거나 재가동하고, 가스터빈과 변압기 생산 능력을 늘리며, 송전 및 계통 연결 시스템을 업그레이드해야 합니다. 이런 프로젝트는 투자 규모가 더 크고 건설 주기도 더 길어, 소프트웨어 업그레이드 한 번으로 해결할 수 없습니다.

따라서 프런티어 모델의 출시 빈도가 줄어들더라도 이미 체결된 칩 주문, 전력 구매 계약, 데이터센터 건설 프로젝트가 즉시 중단되는 것은 아닐 수 있다. 모델 연구개발과 인프라 구축 사이에는 시차가 존재하며, CapEx는 일반적으로 여론이나 연구개발 속도에 맞춰 동시에 방향을 바꾸지 않는다.

동시에 감속이 반드시 컴퓨팅 파워 수요의 자연스러운 감소를 의미하지도 않는다. 더 긴 안전 테스트, 더 복잡한 추론 과정, 그리고 기존 모델의 기업 및 소비자 시나리오로의 배포는 여전히 막대한 컴퓨팅 자원을 소모할 수 있다.

저자는 이로부터 투자자들이 소셜 미디어에서 가장 격렬하게 논쟁되는 모델 계층에만 주목해서는 안 되며, 향후 18개월 동안 형성되고 있는 새로운 병목을 찾아야 한다고 본다. 이 프레임워크에 따르면, 현재 더 주목할 만한 희소 자원은 이미 '모델 지능'에서 전력 및 그 부속 인프라로 점차 이동하고 있다.

AI 기술주는 일괄 상승에서 분화로 전환될 수 있다

모델 감속이 CapEx 중단과 같지 않다면, 기술주에 대한 영향은 단순한 전면적 악재가 아니라 산업 체인의 재가격 책정으로 나타날 가능성이 더 크다.

첫째, 프런티어 모델의 지속적인 도약과 제품의 빠른 수익화에 의존하는 기업은 더 쉽게 영향을 받을 수 있다. 모델 반복이 둔화되면 시장의 매출 성장률, 상업화 속도, 밸류에이션 배수에 대한 가정이 조정될 필요가 있을 수 있다.

둘째, GPU, 네트워크 장비, 전력 공급 및 배전, 냉각, 데이터센터 자원을 보유한 기업의 주문 논리는 반드시 동시에 악화되지는 않는다. 클라우드 업체가 여전히 인프라를 확장하고 있거나 컴퓨팅 파워 병목이 계속 전력 단계로 이동하는 한, 관련 투자는 강한 관성을 유지할 수 있다.

셋째, 시장은 훈련과 추론을 구분할 필요가 있다. 실험실들이 초대규모 프런티어 훈련을 조율하여 제한하더라도, 기존 모델의 추론 수요, 기업 배포, AI 애플리케이션 보급은 여전히 컴퓨팅 파워 소모를 촉진할 수 있다. 그때 CapEx는 절벽식 축소가 아니라 구조적 변화가 일어날 수 있다.

이는 AI 감속이 먼저 바꾸는 것이 전체 기술 산업의 성장 방향이 아니라, 서로 다른 자산이 동일한 AI 밸류에이션 논리를 공유하는 국면일 수 있음을 의미한다. 과거에는 모델 기업, 클라우드 업체, 반도체 기업, 전력 인프라 공급업체 모두 AI 내러티브에서 프리미엄을 얻을 수 있었다. 모델 능력 경쟁이 둔화되면 시장은 기술 리더십, 상업화 능력, 주문 이행을 더 엄격하게 구분하기 시작할 수 있다.

CapEx 논리를 진정으로 바꾸는 변수는 규제다

Mehrotra는 이번 AI 자본 지출 사이클을 진정으로 중단시킬 수 있는 것은 또 한 번의 공급망 부족이 아니라, 정부가 시스템 외부에서 설정하는 강제적 제한이라고 본다.

GPU, HBM, 전력 및 변압기 부족은 본질적으로 여전히 투자 확대를 통해 완화할 수 있는 병목이다. 이들은 데이터센터 가동을 지연시킬 수 있지만, 자본을 새로운 희소 영역으로 유도하기도 한다.

규제는 다르다. 정부가 고급 칩 구매, 훈련 클러스터 규모, 모델 훈련에 필요한 연산력 또는 데이터센터 전력 사용을 직접 제한한다면, 기업은 투자 확대만으로 제약을 돌파하기 어려워진다. 이러한 시나리오에서야 비로소 클라우드 업체의 CapEx 전망, 인프라 주문 및 AI 관련 기술주 밸류에이션이 동시에 하향 조정될 수 있다.

다만, 원문은 이러한 상황을 낮은 확률의 테일 리스크로 간주하며, 기준 시나리오로 보지 않는다. 이 판단 역시 지속적인 검증이 필요하며, 규제 리스크가 이미 배제되었다고 이해해서는 안 된다. AI 연구소 내부의 우려가 공개화됨에 따라 외부 정책 압력은 여전히 상승할 수 있다.

앞으로 시장이 진정으로 주목해야 할 것은 'AI 감속'이라는 포괄적인 구호가 아니라, 세 가지 더 구체적인 신호다: 최전선 연구소가 감속을 공식 R&D 계획에 명시하는지, 주요 클라우드 업체가 데이터센터 주문을 축소하는지, 그리고 규제가 칩, 연산력 및 에너지 공급에 직접적으로 영향을 미치기 시작하는지 여부다.

Coxon의 퇴사는 최전선 AI의 안전 논쟁이 외부 비판에서 연구소 내부로 진입했음을 증명한다. 그러나 연구원들이 우려를 표명하는 것에서 기술 기업이 실제로 자본 지출을 축소하는 것까지는 경쟁 압력, 건설 관성 및 인프라 부족 등 여러 단계가 여전히 존재한다.

AI 감속이 반드시 CapEx 사이클을 즉시 종결시키는 것은 아니지만, 모든 AI 자산이 동일한 상승 논리를 공유하는 단계를 종결시킬 수는 있다.

[원문 링크]

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia