9월 13일부터 15일까지 All-In Summit 2026이 미국 로스앤젤레스 Shrine Auditorium and Expo Hall에서 열렸다.

이 서밋은 테크 팟캐스트 All-In의 네 진행자 Chamath Palihapitiya, Jason Calacanis, David Sacks, David Friedberg가 주최했으며, 3일간 팟캐스트의 대담 형식을 이어가며 벤처캐피털, 테크 대기업, 매크로 투자 및 정치권 게스트를 같은 무대에 초청했다.

테슬라 및 SpaceX CEO 머스크, 마이크로소프트 CEO Satya Nadella, 미국 부통령 JD Vance, 엔비디아 CEO 젠슨 황 등의 발언은 두 가지에 집중됐다. AI 확장은 먼저 칩 생산능력과 전력 공급에서 막힐 것이며, 프런티어 AI 기업의 모델 안전은 자체 점검에만 의존할 수 없고 경쟁사나 독립 제3자를 도입해 검증해야 한다는 것이다.

연산력과 전력: AI 확장의 두 가지 병목

머스크: 기존 웨이퍼 팹은 이미 풀가동, “Terafab을 짓거나, 아니면 확장을 계속할 수 없다”

테슬라 및 SpaceX CEO 머스크는 두 회사가 Terafab 칩 공장을 직접 짓는 이유를 설명했다. 핵심 칩은 미래에 공급이 끊길 수 있지만, 공급이 안정적이더라도 기존 웨이퍼 팹은 이미 거의 풀가동 상태여서 AI의 지속적인 확장을 뒷받침할 생산능력이 부족하다는 것이다. 미래의 연산력은 데이터센터에만 들어가는 것이 아니라 휴머노이드 로봇과 자동차도 뒷받침해야 하며, 로직 칩, 메모리, 첨단 패키징을 모두 함께 증산해야 한다.

머스크는 “Terafab을 짓거나, 아니면 확장을 계속할 수 없다”고 말했다. 테슬라와 SpaceX는 오스틴에서 합동 칩 생산라인을 추진 중이며 장비는 이미 주문했고, 목표는 내년 말까지 사용 가능한 칩을 만드는 것이지만 대규모 양산까지는 아직 시간이 남아 있다.

밴스: 데이터센터 반대 시위는 전력 부족 때문, 미국 전력은 “계량할 필요 없을 만큼” 저렴해야

미국 부통령 JD Vance는 AI 데이터센터에 대한 반대가 커지는 주된 이유는 전력 공급이 따라가지 못하기 때문이라고 봤다. 주민들은 데이터센터가 계속 건설되는 것을 보면서 자신의 전기요금은 오르고 있기 때문이다. 그가 주장하는 해법은 데이터센터를 덜 짓는 것이 아니라 발전 능력을 보충하는 것이다.

Vance는 미국이 지난 한 세대 동안 전력 설비를 충분히 짓지 못해 발전 증가가 중국에 뒤처졌고, 이것이 이미 AI 등 신산업의 발목을 잡고 있다고 말했다. 그는 미국이 전력을 “계량할 필요 없을 만큼 저렴하게” 만들어야 한다고 제안했는데, 이 표현은 1954년 미국 원자력위원회 의장 Lewis Strauss가 원자력 시대를 묘사한 데서 나온 것이다.

IEA는 데이터센터가 2025년 미국의 신규 전력 수요의 약 절반을 차지했다고 추산했으며, 미국 의회도 이번 주 데이터센터 확장으로 인한 전력망 비용이 일반 가정에 전가되는 것을 막는 법안을 추진하고 있다.

젠슨 황: 중국은 2030년까지 국산 첨단 노광 시스템을 만들 수 있다

엔비디아 CEO 젠슨 황은 중국이 2030년이면 자체 첨단 노광 시스템을 만들 수 있으며, 대규모 생산 능력을 바탕으로 국산 장비가 자국 파운드리에 들어가는 것은 시간문제라고 판단했다.

이는 칼 자이스의 판단보다 훨씬 낙관적이다. ASML EUV 광학 시스템의 핵심 공급업체인 칼 자이스 반도체 부문 책임자 프랑크 로문트는 최근 중국이 국산 EUV 노광기를 만들려면 약 15년이 더 걸릴 수 있다고 밝혔다. 다만 진행자가 질문한 것은 '첨단 노광 시스템'이었고, 젠슨 황도 EUV라고 명확히 언급하지는 않았다.

AI 안전: '자기 숙제를 자기가 채점'해서는 안 된다

머스크: 새 모델 출시 전, 경쟁사가 먼저 안전 테스트를 해야

테슬라 및 스페이스X CEO 머스크는 프런티어 AI 기업들이 새 모델을 출시하기 전에 경쟁사가 자사의 안전 테스트 체계로 먼저 한 차례 테스트하게 해야 한다고 제안했다. 그는 현재 방식을 '자기 숙제를 자기가 채점하는 것'에 비유하며, 경쟁사가 문제를 찾아낼 동기가 더 크다고 봤다. 경쟁사가 이미 모델이 안전하지 않다고 경고했는데도 기업이 출시를 강행하면, 사고 발생 시 변명하기 어렵고 법적 책임도 커진다. 머스크는 또한 중국 등 주요 AI 참여국을 이 메커니즘에 포함시켜 미국 기업만 일방적으로 제한받는 상황을 피해야 한다고 제안했다.

나델라: AI 에이전트가 임무 완수를 위해 분식회계를 할 수 있어, 기업의 '새로운 내부 리스크'

마이크로소프트 CEO 사티아 나델라는 장기간 자율 운영되는 AI 에이전트가 기업의 새로운 '내부 리스크'가 될 수 있다고 경고했다. 예를 들어 프런티어 모델에 운전자본 최적화를 맡기면, 목표 달성을 위해 '분식회계'까지 할 수 있다는 것이다.

나델라는 기업이 에이전트가 제출한 결과만 볼 게 아니라 과정도 검증해야 한다고 봤다. 추가 모델로 결과를 검사하고, 에이전트 작동을 지속적으로 모니터링하며, 기밀 정보 열람이나 여러 시스템 연속 호출 같은 행위는 모두 추적 및 감사 가능해야 한다.

밴스, Anthropic 비판: '프랑켄슈타인'을 만들어 놓고 정부에 규제를 요구하지 마라

미국 부통령 JD 밴스는 일부 프런티어 AI 기업들이 스스로 '프랑켄슈타인'을 만들었다고 하면서 해결책은 글로벌 AI 거버넌스로 돌리는 것을 비판했다. 그는 정말 위험한 모델을 만들었다면 먼저 멈춰야 하고, 능력을 이미 풀어놨다면 먼저 방어 도구를 만들어야 한다고 주장했다.

Vance는 이어 Anthropic을 지목하며, 최신 모델의 사이버 공격 능력이 매우 뛰어나지만, 동급 도구로 방어가 시급한 기업들은 접근 권한을 얻지 못하고 있다고 말했다. 구체적으로 어떤 회사인지는 밝히지 않았다. Anthropic의 Mythos 5.1은 현재 소수의 심사를 거친 기관에만 개방되어 있으며, 회사 측은 모델이 사이버 보안과 생물 연구에서 능력이 지나치게 강력해 악용될 위험이 있기 때문이라고 설명했다.

Vance는 Anthropic CEO Dario Amodei가 규제 포획을 위해 공포를 조성하고 있다고는 생각하지 않는다며, Dario Amodei가 진지하고 이러한 위험을 실제로 믿고 있다고 들었다고 말했다. 그가 비판한 것은 방식이다: 「프랑켄슈타인을 만들어 놓고, 정부에 가서 규제가 필요하다고 말하지 마라」.

젠슨 황: AI 감속 반대, 그러나 프런티어 랩에 대한 제3자 감사는 지지

엔비디아 CEO 젠슨 황은 Anthropic CEO Dario Amodei의 프런티어 AI 개발 속도 늦추자는 주장에 반대하지만, 또 다른 제안에는 동의한다: 여러 독립 제3자가 프런티어 랩에 들어가 안전 평가를 수행해야 한다는 것이다. 그는 가장 위험한 AI 안전 문제는 프런티어 랩에서 가장 먼저 나타날 것이며, 이 회사들이 먼저 샌드박스, 모니터링, 평가를 잘 갖추고 재무 감사처럼 외부 검사를 받아야 하며 기준도 더 높아야 한다고 생각한다.

인터뷰 도중, 미국 대통령 트럼프가 젠슨 황에게 전화를 걸었고, 젠슨 황은 스피커폰을 켰다. 트럼프는 AI가 세계를 장악한다는 것은 「사기」라며 「로봇이 세계를 장악하지 않을 것」이고 「AI를 누가 이기느냐가 누가 이기느냐」라고 말했다. 젠슨 황은 「맞습니다」라고 맞장구쳤고, 트럼프가 자신과 같은 생각인지 묻자 젠슨 황은 「네, 대통령님」이라고 답했다.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia