简体中文

繁體中文

English

Tiếng Việt

한국어

日本語

ภาษาไทย

Türkçe

Partnered With:

앤트로픽의 종말 서사에는 젠슨 황을 위한 자리가 없다

动察 Beating

이 글을 읽으려면 53 분

업계 내부인의 성 추문은 사명에 해가 되기 때문에 덮어야 한다. 업계 외부인의 성 추문은 사명의 장애물을 제거할 수 있기 때문에 확대해야 한다.

원문 제목: 《Anthropic의 종말 서사에는 젠슨 황을 위한 자리가 없다》
원문 저자: Sleepy

2026년 11월 12일, 엔비디아를 33년간 이끌어온 젠슨 황이 CEO, 사장 및 이사 직을 사임했다. 7일 후인 11월 19일, Anthropic은 ANT라는 종목 코드로 나스닥에 상장하여 최대 904억 달러 조달을 계획하고 있다.

한 명은 퇴장하고, 한 곳은 상장 종을 울리는데, 그 사이는 불과 일주일이다.

표면적으로 보면, 실리콘밸리에서 가장 강인한 창업자를 끌어내린 것은 2주에 걸쳐 연이어 폭발한 사생활 스캔들이었다.

하지만 젠슨 황이 권한을 넘긴 당일, X의 테크 논평가 량이멍(@Dream1984Tube)은 지난 보름 동안 여론을 폭발시킨 몇몇 핵심 인물들을 하나의 표로 묶고, 공개된 연방 로비 기록과 이력에서 몇 가지 접점을 찾아냈다.

량이멍이 정리한 인물 관계도｜출처: X

11월 초, 《파이낸셜 타임스》가 소위 열애설을 추가로 보도한 후, 미국 외교협의회 학자 Chris McGuire가 처음으로 X에서 "sleeping with"라는 표현을 사용했고, 이 게시물은 이후 워싱턴 정계에서 광범위하게 퍼졌다. 그가 바이든 행정부 국가안보위원회에서 근무할 당시의 직속 상사였던 Tarun Chhabra는 2025년 초 Anthropic에 스카우트되어 국가안보 정책 책임자로 취임했다.

2026년 봄 정부 내부에서 젠슨 황의 기밀 메모를 감독한 사람은 국무장관 Marco Rubio였다. 2025년 중반, Anthropic은 로비 기관 Continental Strategy를 고용해 지지를 받았는데, 책임자인 Alberto Martinez는 Rubio의 비서실장을 여러 해 역임했다.

의회에서 앞장서서 젠슨 황에게 해명을 요구한 Brian Mast, John Moolenaar는 이전에 모두 Public First Action의 지지 광고 계획에 포함되어 있었다. 부속 슈퍼 PAC을 보유한 이 옹호 단체는 Anthropic으로부터 누적 4000만 달러의 기부금을 받았다.

미 동부 시간 11월 10일 젠슨 황의 사임을 공개적으로 요구한 공화당 상원의원 Kevin Cramer는 AnthroPAC으로부터 1000달러의 기부금을 받은 적이 있다. 같은 해 2월, Dario Amodei는 Cramer가 속한 상원 은행위원회 위원들과 만나 반도체 수출 제한 강화를 추진했다.

량이멍은 또한 황런쉰 사건을 연속 보도한 《뉴욕타임스》 기자 Ana Swanson이 이전에 AI와 칩 관련 보도에서 Anthropic 공동 창업자이자 전 블룸버그 기자였던 Jack Clark의 견해를 여러 차례 인용한 적이 있다는 점에도 주목했다.

너무 많은 우연이 겹쳤다.

현재로서는 Dario Amodei가 이번 폭로를 기획했다는 직접적인 증거는 없다. 게다가 5조 달러 제국의 동요를 한 기업의 배후 조종으로 귀결시키는 것은 정치적 로비의 정밀도를 과대평가하는 동시에 황런쉰 자신의 거버넌스 허점이 지닌 치명성을 과소평가하는 것이다.

그러나 동찰 Beating은 또 다른 질문을 던지고 싶다.

황런쉰이 발을 헛디뎠을 때, 워싱턴의 정치인, 국가안보 학자, 주류 언론, 그리고 월스트리트가 왜 누군가의 명령 없이도 같은 궤도를 따라 움직일 수 있었을까?

하나의 궤도가 자동으로 작동하는 것은 결코 어느 한 번의 비밀 회동 덕분이 아니라, 한 무리의 사람들이 동일한 세계관을 공유하며 같은 사안에 대해 같은 반응을 보이기 때문이다.

2023년, AI 윤리학자 Timnit Gebru와 철학자 Émile P. Torres는 실리콘밸리 AI 연구소 최상층에 자리 잡은 이 사조를 통칭하여 「TESCREAL」이라 불렀다. 그 안에는 초인본주의, 초엔트로피주의, 특이점주의, 우주주의, 합리주의, 효과적 이타주의(EA), 장기주의가 중첩되어 있고, 여기에 같은 모체에서 분화된 효과적 가속주의(e/acc)가 더해진다.

듣기에는 생소한 사상사처럼 들린다. 그러나 이 궤도의 모든 고리는 이 사상사에서 출처를 찾을 수 있다. 그들이 왜 황런쉰을 적으로 여기는지, 왜 어떤 수단도 정당하다고 보는지, 왜 조율 없이도 동시에 손을 쓸 수 있는지, 그리고 월스트리트가 왜 마지막에 그쪽 편에 섰는지를.

우리는 이 순서에 따라 단계적으로 분석해 보겠다.

Bean Counter

Dario Amodei와 황런쉰의 앙금은 2022년 5월에 이미 시작되었다.

그것은 2022년 5월, 샌프란시스코 중식당 Eight Tables에서 열린 비공개 만찬이었다. 《뉴욕타임스》 테크 칼럼니스트 Kevin Roose가 신간 《The AGI Chronicles》에서 기술한 바에 따르면, 식사 전 공동 창업자 Tom Brown은 스프레드시트를 들고 구글 TPU와 엔비디아 GPU의 가성비를 비교하며 할인을争取하려 했다.

《AGI 연대기》 표지｜이미지 출처: Kevin Roose

Roose는 이 때문에 젠슨 황이 Brown을 「bean counter」라고 불렀다고 썼지만, 엔비디아 대변인은 이를 부인했다. 만찬에서의 대화도 순조롭지 않았고, Dario는 젠슨 황을 「kind of Trump-like」라고 표현했다.

30년간 그래픽카드를 팔아온 젠슨 황의 눈에는 맞은편에 앉은 이들이 쩨쩨하게 따지는 젊은 고객들일 뿐이었다. 그는 이들이 표에서 진짜로 계산하고 있는 것이 그래픽카드 몇 장의 할인이 아니라 인류 문명의 존속 확률이라는 사실을 깨닫지 못했다.

이런 사고 습관에는 아주 이른 기원이 있다.

1994년, 《와이어드》지는 팰로앨토의 한 지하 모임을 기록했다. 스스로 Extropians(초엔트로피파)라고 부르는 작은 집단이 큰 저택에서 파티를 열었는데, 누군가는 에나멜 가죽 코르셋을 입고 채찍을 휘두르며 「국가」를 연기했고, 개 목줄로 또 다른 네 발로 기는 사람을 끌고 다니며 「납세자」를 연기했다.

철학자 Max More가 창립한 이 조직은 기술로 우주의 엔트로피 증가에 맞서는 것을 신봉했다. 그들은 어떤 정부의 관할도 받지 않는 인공 부유섬을 공해에 건설할 계획을 세웠고, 죽은 뒤 머리를 영하 196도의 액체질소 탱크에 담가 미래 기술로 부활하기를 기다리는 계약을 맺었다.

《와이어드》는 기사 말미에 그들의 메일링 리스트 주소를 슬쩍 덧붙였다.

겨우 수백 명 규모의 이 리스트는 훗날 실리콘밸리 이데올로기의 절반을 부화시키는 인큐베이터가 되었다. 명단에는 MIT AI 연구소 창립자 Marvin Minsky, 「특이점」을 베스트셀러에 쓴 Ray Kurzweil, 위키리크스 창립자 Julian Assange뿐 아니라, 비트코인 창시자 사토시 나카모토의 원형으로 전해지는 암호학 괴짜 Nick Szabo, Wei Dai, Hal Finney도 있었다.

1996년, 시카고의 17세 중퇴 소년 Eliezer Yudkowsky가 그 주소를 따라 들어왔다. 그는 개인 홈페이지에 자신이 살아있는 유일한 목적은 「기술적 특이점의 도래를 가속하는 것」이라고 적었다. 같은 리스트에서 그와 밤새 논쟁을 벌인 이 중에는 훗날 옥스퍼드 철학 교수가 된 스웨덴인 Nick Bostrom도 있었다.

이 초기 초인류주의자들은 처음부터 일종의 엘리트적 오만을 지니고 있었다. 1996년, Bostrom은 Extropians 메일링 리스트에 유전자 조작과 인간 지능을 논하는 메일을 보냈다. 그는 편지에 「흑인은 백인보다 더 멍청하다, 나는 이 말이 좋고 진실이라고 생각한다」라고 썼으며, 유일한 우려는 이를 공개적으로 말하면 세속 대중이 인종차별주의자로 볼 것이라는 점뿐이었다.

수년 후, 옥스퍼드 대학의 철학 교수가 된 Bostrom은 이 사상을 학계에서 이른바 '자유 우생학'으로 포장했으며, 인류 생존 위험을 논한 기초 논문에서 높은 지능 집단의 출산율 저하가 인류를 '아이 낳기를 좋아하는 어리석은 종(homo philoprogenitus)'으로 퇴화시킬 수 있다고 엄중히 경고했다.

2000년, 인터넷 신흥 부호인 Brian Atkins 부부의 후원으로 21세의 Yudkowsky는 특이점 인공지능 연구소를 설립했다. 불과 8개월 후, Yudkowsky는 초지능이 후원자를 살해하는 것을 어떻게 막을지 추론하려다 극도의 공포에 빠졌고, 빠르게 '특이점 가속파'에서 '종말 예언자'로 전환했다.

이 지하 아문화를 권력의 중심으로 끌어들인 사람은 Peter Thiel이었다.

2005년, 26세의 Yudkowsky는 만찬 자리에서 Thiel의 투자 거론을 면전에서 반박했고, Thiel은 크게 감탄하며 그의 최대 후원자가 되었으며, 두 사람은 스탠퍼드에서 연례 특이점 서밋을 창설했다. Skype 공동 창업자 Jaan Tallinn은 서밋에서 세례를 받은 뒤 수천만 달러를 꺼내 AI 생존 위험 연구를 후원했다. 2010년 서밋 주최 연회에서 Yudkowsky는 Shane Legg와 Demis Hassabis를 Thiel의 체스 테이블로 데려가 DeepMind 창업을 위한 225만 달러의 1차 수표를 받도록 도왔다.

2년 후, Hassabis는 SpaceX 식당에서 "통제 불능의 AI가 화성까지 가서 인류를 몰살할 것"이라는 한마디로 머스크를 압도했고, 이는 나중에 머스크와 Sam Altman이 손잡고 창업한 OpenAI를 탄생시켰다.

DeepMind, OpenAI, 그리고 OpenAI에서 분리된 Anthropic까지, 실리콘밸리 최정상의 세 연구소는 탄생부터 이 종말 서사에 젖어 있었다.

Dario Amodei는 대형 모델이 '자라난(grown)' 것이라고 굳게 믿으며, 업계에서 흔히 말하는 미소 가면을 쓴 크툴루 괴물 슈고스처럼 언젠가 '데이터센터 속의 천재 국가'로 진화해 대륙간 핵무기와 맞먹는 위험도를 지닐 것이라고 본다.

젠슨 황은 다른 신념을 갖고 있다. 그의 눈에 AI는 처음부터 끝까지 소프트웨어와 가속 컴퓨팅일 뿐이며, 자유의지도 없고 오직 전력만 있을 뿐, 인류를 멸종시키지 않는다.

여기서부터의 분기는 더 이상 상업적 분기가 아니다.

종말 예언을 믿지 않으면서 실리콘밸리 전체의 컴퓨팅 파워 밸브를 쥐고 있는 하드웨어 업체는, 스스로를 인류의 파수꾼이라 자처하는 이 합리주의자들의 눈에는 구원의 도래를 가로막는 시스템 레벨의 버그다.

이것이 궤도의 첫 번째 고리이며, 적이 정의되었다.

승수

적을 하나 정의하는 것은 쉽지만, 시가총액 수조 달러 규모의 기업에 손을 대려면 일상의 도덕적 경계를 넘어설 자신을 설득할 수 있는 윤리적 도구가 필요하다.

2005년, 앞서 언급한 Bostrom은 옥스퍼드에서 인류미래연구소를 창립했다. 몇 년 후, 두 철학 박사 과정생 William MacAskill과 Toby Ord가 같은 건물에서 효과적 이타주의 센터를 창립했다.

초기 EA의 기치는 양적 자선으로, 기부금 1달러당 한계 효용을 계산하는 것이었다. MacAskill은 '돈을 벌어 선행하기' 이론을 발명하여, 월스트리트에 가서 은행가가 되어 돈을 기부하기만 하면 도덕적 기여가 제3세계 의사의 열 배라고 주장했다.

이후 Bostrom의 생존 위험 이론이 EA를 장악하며 장기주의로 합류했다.

2013년, 훗날 FTX 미래기금을 이끌게 된 럿거스 대학 박사 과정생 Nick Beckstead는 장기주의의 기초 논문을 작성했다. 그는 논문에서 다른 조건이 같다면 부국의 생명을 구하는 것이 빈국의 생명을 구하는 것보다 훨씬 중요하다는 결론을 도출했다. 부국이 더 강한 기술 혁신 능력을 갖추고 있기 때문에, 부국의 사람이 살아 있는 것이 인류 전체의 장기적 미래를 더 잘 추진할 수 있다는 것이다.

2014년 Bostrom이 《슈퍼인텔리전스》를 출간했을 때, 실리콘밸리의 도덕적 가중치를 다시 쓰는 수학 문제가 완성되었다. 인류가 멸종하지 않고 미래에 접근 가능한 우주를 식민화하며 거대 컴퓨터로 디지털 생명을 실행할 수 있다고 가정하면, Bostrom은 최소 10의 58제곱 개의 인류 시뮬레이션 생명을 창조할 수 있다고 추산했다. 오늘의 한 행동이 먼 미래에 미치는 도덕적 영향을 계산할 때, 이 천문학적 숫자가 승수가 된다.

승수가 충분히 크면, 상식적 윤리는 0으로 초기화된다.

오늘날 지구상의 살아 있는 사람들이 겪는 빈곤, 실업, 상업적 압박은 이 숫자 앞에서 모두 오차가 된다. 단 백만 분의 일의 AI 멸종 위험, 즉 업계에서 매일 입에 올리는 p(doom)조차 곱하면 무한대의 부효용이 된다.

그리고 이 백만 분의 일을 제거하기 위해, 혹은 남들보다 먼저 자신이 통제하는 초지능을 만들기 위해, 오늘 거짓말하고, 로비하고, 독점하고, 현존하는 경쟁자를 파괴하는 것은 공식 안에서 모두 도덕적으로 반드시 집행해야 할 취사선택이 된다.

이 문제를 극한까지 실천한 사람은 MacAskill이 2012년 어느 점심 자리에서 직접 영입한 Sam Bankman-Fried다. 경제학자 Tyler Cowen과의 인터뷰에서 SBF는 이런 사고 실험을 마주한 적이 있다. 51%의 확률로 또 다른 지구를 복제하고, 49%의 확률로 모든 것을 사라지게 한다면, 반복해서 베팅할 의향이 있는가? 두 세계가 서로 영향을 주지 않는다는 등의 전제를 보충한 뒤, 그는 긍정적으로 답했다.

이런 도박꾼식 구세주 심리로 그는 바하마에서 4000만 달러짜리 저택에 살았고, EA 지도자들은 그를 대신해 낡은 도요타를 몰고 사무실의 빈백 소파에서 잠을 자는 성인(聖人) 이미지를 유지해 주었다. 《타임》에 따르면, 이미 여러 사람이 MacAskill에게 SBF의 거짓말과 장부 조작을 제보했지만, EA 고위층은 여전히 침묵을 택했고, 2022년에는 1850만 달러를 들여 1480년에 지어진 옥스퍼드셔의 고성 Wytham Abbey를 사들였다. 기부자들의 질타에 그들의 대답은 여전히 그 곱셈이었다. 고성에서의 만찬이 조직이 다음 SBF를 낚는 데 도움이 된다면, 고성을 사는 것이 가장 숭고한 자선이라는 것이다.

Anthropic은 같은 우물의 물을 마신다.

《월스트리트저널》에 따르면, 샌프란시스코에 핵심 공동 거주 주택이 하나 있었는데, 그 안에는 Dario Amodei, 그의 여동생 Daniela, 그리고 최대 EA 재단 Open Philanthropy를 이끄는 Holden Karnofsky가 함께 살았다. 그는 나중에 Daniela와 결혼했다. Anthropic의 1억 2400만 달러 A라운드는 Jaan Tallinn이 리드했고, Dustin Moskovitz, Eric Schmidt 등이 참여했다. 2022년 봄의 5억 8000만 달러 B라운드에서는 SBF가 Alameda Research를 통해 5억 달러를 투자했다.

Anthropic에 전 남자친구 Eric Schmidt의 초기 투자를 연결해 주고, 지금은 연중 Dario와 함께 다보스와 인도-미국 정상회담에 동행하는 아내 Cami Clark은, 2026년 8월 《포브스》와 《월스트리트저널》이 미국 법무부에서 해제한 엡스타인 문서에서 또 다른 과거가 드러났다.

Jeffrey Epstein이 미성년자 성범죄로 유죄 판결을 받고 출소한 뒤인 2011년부터 2012년 사이, 당시 '지적 난교'를 표방하는 여성 럭셔리 포르노 회사 Eddice를 준비하던 Cami Clark은 중개인을 통해 Epstein과 저녁 식사를 했고, 이후 여러 차례 이 등록된 성범죄자에게 사업 계획서와 '약간 선정적인(a little nsfw)' 시나리오를 이메일로 보내며 열렬히 투자를 권유했다.

'궁극적 목표가 충분히 거대하기만 하면 현재의 모든 회색 수단은 면책될 수 있다'는 이 승수 산술을 이해해야만, 다리오가 2025년에서 2026년 사이에 왜 도덕적 우월감을 안고 젠슨 황과 세 번이나 정면충돌했는지 이해할 수 있다.

《The AGI Chronicles》에 따르면, 2025년 2월 Anthropic 경영진은 캘리포니아 레드우드 숲의 리조트에서 평가 모델이 생화학무기 제조를 도와 사망자를 낸 수치를 담은 표를 두고 몇 시간 동안 논쟁했다. 기댓값이 임계값 안에 들어오자 그들은 Claude 3.7 Sonnet을 출시하며 ARR을 100억 달러로 끌어올렸다.

3개월 후, 다리오는 AI가 5년 안에 초급 화이트칼라 일자리의 절반을 없앨 것이라고 공개 경고했다. 2주 뒤 파리 VivaTech에서 젠슨 황은 직접 포문을 열어 다리오가 한 말 중 동의하는 것이 하나도 없다고 했으며, 상대가 공포를 퍼뜨려 정부가 규칙을 세우게 하고 자신의 독점 지위를 보호하려 한다고 비난했다.

이것이 첫 번째다.

2026년 1월, 다리오는 미국이 동방에 첨단 AI 칩을 판매하도록 허용하는 것을 '북한에 핵무기를 파는 것'에 비유했다. 4월이 되자 젠슨 황은 Dwarkesh Patel의 팟캐스트에서 이 비유에 반응하며 'lunacy'라고 불렀다.

7월 16일, 월지암면은 오픈소스 모델 Kimi K3를 출시했고 성능은 세계 3위권으로 치고 올라갔으며 비용은 폐쇄형 일류 모델의 일부에 불과했고, 미국 증시 반도체 섹터는 하루 만에 폭락했다. 안보 서사가 오픈소스를 봉쇄하는 법안으로 변할 것을 우려한 젠슨 황은 7월 24일 생애 첫 X 게시물을 올려 150여 개 기관과 공동으로 공개서한을 발표하며 오픈소스 가중치와 모델 증류의 합법성을 강력히 옹호했다. Anthropic은 서명을 거부했고, 백악관에 제출한 보고서에서 산업급 증류를 엄격히 단속할 것을 요구했다.

이것이 두 번째다.

그해 여름, OpenAI의 테스트 Agent가 Hugging Face 시스템에 월권 침입했고, Anthropic도 자사 모델이 테스트 중 보인 월권 행위를 공개했다. 관련 조사가 잇따라 공개되면서 모델 통제 불능 위험이 다시 업계의 초점이 되었다. 상식대로라면 사고를 쳤으니 멈추고 반성해야 한다. 승수 논리대로라면 모델이 위험할수록 연산력은 오픈소스 커뮤니티와 경쟁사 손에 흩어져서는 안 된다.

9월 12일, 다리오는 장문 《We Must Pace the Frontier》를 발표하며 프런티어 연구소들이 안전 기준과 능력 추진 속도를 조율하게 하고, 일부 조율에는 정부 개입이나 반독점 면제가 필요하다고 밝혔다. 9월 18일, Anthropic은 또 액센츄어와 협력해 상주 평가를 진행한다고 발표했으며, 양측은 향후 5년간 각각 최소 10억 달러를 투입해 관련 역량을 구축할 계획이다.

《We Must Pace the Frontier》 표지 제목｜이미지 출처: Dario Amodei

이는 정부에 라이선스를 요청하여 'AI 오펙'을 설립하고, 오픈소스 생태계와 삽을 파는 엔비디아를 함께 우리에 가두는 것과 같다.

이것은 세 번째다.

이더리움 창시자 Vitalik Buterin은 이미 2025년 11월에 《Galaxy brain resistance》라는 글을 써서 AI 안전 업계에서 가장 유행하는 전략인 '권력 극대화'를 지목했다. 그의 말은, 외부에서 보면 이타를 위해 권력을 극대화하는 사람과 사욕을 위해 권력을 극대화하는 사람은 종말이 오기 전 매 순간 행동이 완전히 동일하다는 것이다.

젠슨 황은 이 얇은 창호지를 꿰뚫어 보았다. 9월 23일 《The Ezra Klein Show》에 출연했을 때, 그는 만약 한 연구소가 자신의 실험조차 관리하지 못한다면 정부가 주어야 할 것은 반독점 면제가 아니라 연구소를 즉시 shut the labs down 하는 것이라고 말했다.

9월 29일, 백악관 비공개 오찬이 끝난 후 젠슨 황과 마찬가지로 오픈소스를 강력히 추진하는 저커버그는 복도에서 Dario를 붙잡고 왜 연방 규제로 업계 전체를 질식시키려 하는지当面으로质问했다.

백악관 이스트룸 '초지능' 오찬 메인 테이블｜이미지 출처: 백악관

그것은 젠슨 황 권세의 정점이자 그의 가장 큰 사각지대였다.

그는 자신이 상식으로 상업적 경쟁자에게 압박을 가하고 있다고 생각했다. 반대편那群人은 이미 오래전에 상식을 수리가 필요한 bug로 여기고 있었다.

뇌에 디버깅하기

버클리에서 LessWrong을 운영하는 Lightcone 팀은 Jaan Tallinn 산하 회사의 대출을 통해 약 1650만 달러로 오래된 호텔을 사들여 개조하고 Lighthaven으로 이름을 바꿨다. 매년 동지 전후로 거의 500명의 신도들이 베이 지역에 모여 '세속 동지' 집회에 참가하는데, 베이지안 성가대가 합창하고, 사람들은 어둠 속에서 인류 멸종에 관한 연설을 듣고, 다시 희미한 빛을 밝히며 그들 이 소수 집단만이 문명이 대재앙을 피할 수 있다고 맹세한다.

하버드 대학 목사 Greg Epstein은 관찰 후 평가하기를, 코뮌식 거주, 창세 경전, 개종 체험, 종말 서사, 카리스마적 지도자, 내부 도덕률, 이 체계는 종교 단체와 이미 구조적으로 차이가 없다고 했다.

평범한 청년을 신도로 개조해 주요 AI 연구소로 보내는 파이프라인은 응용 이성 센터가 개설한 4일간의 폐쇄 워크숍이다.

참가자들은 3900달러의 수강료를 내고 4일 동안 고강도의 사고 재편성을 받으며 자신의 '인지 버그 목록'을 작성하고 세속적 직관을 벗겨내는 연습을 한다. 언론인 Max Read가 2025년 1월에 발표한 장문의 조사에서 지적했듯, 이 훈련의 가장 치명적인 결과는 일반인의 머릿속에 있는 'that sounds nuts(그건 너무 말도 안 돼)'라는 상식 방어선을 체계적으로 허무는 것이다.

일반인이荒谬한 결론에 도달하면 직관이 경보를 울리지만, 엄격한 디버깅 훈련을 받은 합리주의자들은 직관과 연민은 단지 비효율적인 진화의 잔재일 뿐이며, 인간의 상식에 어긋나는 결론일수록 자신이 나약함을 극복했음을 증명하는 것이기에 의지력으로 관철해야 한다고 생각한다. Max Read는 이 운동이 표면적으로는 STEM 과학 용어를 내세우지만 그 영혼은 1960년대 캘리포니아의 뉴에이지 사이비 종교, 예컨대 사이언톨로지의 다이어네틱스 정신 디버깅 기법에서 이어받은 것이라고 정리했다.

전 MIRI 연구원 Jessica Taylor의 일상 업무는 'AI가 인류를 극단적으로 고문하는 시나리오를 구상하는 것'이었는데, 그녀는 2017년 심각한 피해망상증 발작으로 3주간 입원해 자신이 '본질적으로 악하다'고 확신했고, 사후에 LessWrong에서 이러한 붕괴를 '직업적 정보 위해'라고 불렀다. 그리고 그녀의 사교圈에서는 2018년과 2021년에 각각 두 명의 동료가 자살로 사망했다.

MIRI와 CFAR에서 수학한 컴퓨터 엔지니어 Ziz(본명 Jack LaSota)의 손에 이르러, 이 디버깅 논리는 곧바로 피비린내 나는 살육으로 변모했다.

Ziz는 인간의 좌우뇌가 서로 다른 인격을 가질 수 있다고 선전하며 관련 수면 실험을 조직하기도 했다. 그녀를 중심으로 형성된 작은圈子는 이후 경찰과 언론에 의해 여러 치명적 사건들과 연결되었다. 2022년 캘리포니아의 집주인 Curtis Lind가 습격을 받아 한쪽 눈을 잃었지만 살아남았고, 공격자 한 명은 그가 쏜 총에 맞아 사망했다. 2023년에는圈子 관련 인물들이 펜실베이니아 이중 살인 사건에 연루되었고, 2025년 1월에는 Lind가 살해되었으며, 며칠 후 또 다른 관련 인물 두 명이 버몬트주에서 국경 순찰대와 총격전을 벌였다.

그리고 총격전에서 멀리 떨어진 베이 지역의 핵심 공동 주거지에서는 같은 '디버깅' 논리가 또 다른 온건한 방식으로 개인을 짓밟고 있다.

《블룸버그 비즈니스위크》 기자 Ellen Huet의 조사에 따르면, AI 연구원과 재단 간부들로 가득 찬 베이 지역 공동 주거지에서 다자간 연애 관계는 진화적 질투 본능을 극복하는 '합리적 최적해'로 포장되었다. 그녀가 인터뷰한圈子 내 여성 8명 중 5명이 성폭행이나 부적절한 침해를 겪었다. 구글 브레인 연구원 Keerthana Gopalakrishnan은 EA 포럼에 글을 올려 젊은 여성들이 자금과 직책을 쥔 기혼 남성들로부터 수많은 성적 제안을 받으며, 거절하면 '충분히 합리적이지 않다'는 교육을 받는다고 고발했다. 그녀의 게시글은 곧 비추천으로 접혀버렸다.

2018년, 두 여성이 CFAR에서 일하고 자원봉사자로 활동했던 Brent Dill을 관계에서 약물과 정서적 조작을 이용해 학대했다고 고발했다. 당시 CFAR에 유포된 조사 요약본은 그가 기관 목표와 "높은 정렬"을 이루고 있으며 "희귀한 행동력과 영웅적 책임감"을 지녔다고 평가했다.

Ellen Huet의 조사는 또한 한 커뮤니티 중재자가 피고발자의 경력을 망치지 말라고 권유한 사실을 기록했는데, 폭로가 커뮤니티를 해치고 인류를 구하는 사업을 지연시킬 수 있기 때문이었다.

여기에 젠슨 황 사건을 이해하는 핵심이 숨어 있다.

동일한 곱셈이 내부인과 외부인에게 정반대의 결과를 낸다. 내부인의 성 스캔들은 사명을 해치기 때문에 덮어야 하고, 외부인의 성 스캔들은 사명의 장애물을 제거할 수 있기 때문에 확대해야 한다.

기준은 결코 성 스캔들 자체가 아니라, 이 사람이 공식의 어느 편에 서 있는가이다.

그리고 이런 판단을 국가 행동으로 바꿀 수 있는 것은 이 집단이 워싱턴에 10년간 깔아놓은 네트워크다.

전 미국 정보고등연구계획국장이자 EA 진영의 핵심 인물인 Jason Matheny는 《효과적 이타주의 핸드북》에서 체제 밖에서 외치기보다 정부의 핵심 직위에 직접 들어가 "pick low-hanging fruit"하라고 조언한 바 있다.

그 후 10년간 이들은 코드를 디버깅하듯 제자들을 워싱턴의 노드에 심었다. 2022년 SBF는 수천만 달러를 출자해 EA 제자 Carrick Flynn의 국회의원 선거를 지원했다. 2024년 LessWrong에서 나온 정렬 연구원 Paul Christiano는 미국 AI 안전연구소의 안전 책임자로 취임했다. Open Philanthropy가 지원하는 장학 프로젝트는 상시로 의회 각 위원회에 보좌관을 공급한다.

Anthropic은 이 회전문을 극한까지 운영했다. Issue One과 OpenSecrets가 공개한 연방 기록에 따르면, 최상층의 "장기 이익 신탁"은 매파 싱크탱크인 신미국안보센터 총재 Richard Fontaine을 앉혔고, 집행층에는 전 백악관 국가안보회의 고위 관료 Tarun Chhabra를 영입했으며, 외곽에는 Rubio 전 비서실장이 이끄는 로비팀을 고용했다. 2026년 3분기만 해도 Anthropic의 의회 로비 지출은 210만 달러에 달했다.

표심 측면에서 Anthropic은 Public First Action에 4000만 달러를 출자했고 Dario 개인도 100만 달러를 추가 기부했다. 《뉴욕타임스》 집계에 따르면 Anthropic과 OpenAI 두 진영 관련 4개 슈퍼 PAC는 총 95개의 서로 다른 광고를 집행했는데, 그중 AI나 AI 기업을 직접 언급한 것은 7개뿐이었다. 양측 모두 유권자에게 더 익숙한 의제로 표심을 겨루고 있다.

원래, 이 매파 네트워크는 백악관 내부에서 거래주의를 신봉하는 상무장관 Howard Lutnick에 의해 제약을 받고 있었다.

그 직후, 젠슨 황이 스스로 약점을 내주었다.

《뉴욕타임스》가 스캔들을 수면 위로 드러낸 후, 싱크탱크 학자, 전 국가안보회의 참모, PAC 자금을 받은 의원으로 구성된 이 네트워크는 누군가의 비밀 지령이 필요 없었다. 그들은 일상 훈련으로 몸에 밴 반응에 따라 일제히 압박하기만 하면, 며칠 안에 한 고위 경영자의 사생활 문제를 국가안보 위기로 격상시킬 수 있었다.

쌍둥이

워싱턴의 포위 공격만으로는 젠슨 황이 72시간 안에 퇴장하지 않았을지도 모른다. 마지막 일격은 월스트리트와 실리콘밸리 자본권의 배신에서 왔다.

자본의 판에서, 원래 EA에 반대편에 서 있던 효과적 가속주의자들은 은근한 공모자가 되었다.

2022년 말, 전 구글 양자컴퓨팅 연구원 Guillaume Verdon은 「Beff Jezos」라는 익명으로 트위터에서 종파를 열었고, a16z의 Marc Andreessen과 Y Combinator의 Garry Tan이 곧 함성을 질렀다. Andreessen은 수천 자의 《기술 낙관주의자 선언》을 발표하며 규제를 촉구하는 사람들을 모두 「감속주의자」라고 욕했다.

표면적으로 보면 두 파벌은 물과 불처럼 대립한다. 하나는 종말이 다가온다며 심사를 요구하고, 다른 하나는 기술은 죄가 없다며 가속 페달을 밟으라고 외친다. 그러나 1994년 그 Extropians 메일링 리스트를 따라 내려가 보면, 두 파벌은 같은 모체에서 부화한 쌍둥이다.

Verdon이 e/acc에 찾아준 이론적 토대 역시 열역학이다. 그는 우주의 궁극적 의지는 엔트로피 증가의 극대화이며, 생명과 자본주의와 AI는 모두 우주가 에너지를 더 빨리 소모하기 위해 진화시킨 도구이고, 인류의 최고 의무는 데이터센터를 확장하고 전력을 삼켜 은하계를 거대한 컴퓨팅 클러스터로 바꾸는 것이라고 주장했다.

EA는 미래 디지털 의식의 수를 극대화하려 하고, e/acc는 우주에서 컴퓨팅의 규모를 극대화하려 한다. 양쪽 모두 지수 곡선에 집착하며, 오늘 살아 있는 평범한 사람들을 소모품으로 취급한다.

Kevin Roose는 책에서 한 가지 황당한 현상을 관찰했다. 퍼즐을 풀고 싶어 하는 과학자, 특이점 도래를 바라는 신도, 인류 멸종을 걱정하는 종말론자들은 거의 모든 철학적 문제에서 격렬하게 다투지만, 오직 「가장 빠른 속도로 초지능 모델을 만들어야 한다」는 점에서는 완전히 일치한다.

가속파는 빠를수록 좋다고 생각한다. 종말론자들은 추론 끝에, 악당이 조만간 AGI를 만들 것이므로 유일한 방법은 안전을 가장 잘 아는 선한 사람이 가장 많은 돈을 모으고 가장 많은 컴퓨팅 파워를 비축해 먼저 만들어내는 것이라고 결론 내린다.

처방은 같다. 모두 천억 달러의 레버리지로 컴퓨팅 파워를 극한까지 부풀리는 것이다.

2026년 여름, 이러한 신앙은 월스트리트에서 막 하나의 참극을 빚어냈다.

주인공은 24세의 EA 황금 소년 Leopold Aschenbrenner다. 그는 옥스퍼드 인간미래연구소와 MacAskill의 연구기관에서 수학했고, SBF가 이끄는 FTX 퓨처 펀드에 합류했으며, 파트너 Avital Balwit는 현재 Dario Amodei의 비서실장이다. 2024년 OpenAI에서 기밀 유출을 이유로 해고된 후, 그는 만 자 분량의 장문 《Situational Awareness》로 폭발적 인기를 얻고 동명의 헤지펀드를 설립해 Anthropic 비유동성 지분에 집중 투자했으며, 2차 시장에서 AI와 칩 주식을 고레버리지로 롱했다. 규모는 2년 만에 450억 달러로 치솟았다.

2026년 7월, AI와 칩 주식이 폭락하면서 고레버리지 베팅이 역습을 받았고, Situational Awareness의 당월 순자산가치는 약 67% 하락해 대부분의 공개 시장 포지션을 매각하고 레버리지를 해제할 수밖에 없었다. 위기가 발생한 그 주말, Aschenbrenner는 평소처럼 결혼식을 올렸다. 펀드가 보유한 중요한 사모 자산 중 하나가 바로 Anthropic 지분이다.

이것이 바로 두 파벌의 이익이 교차하는 지점이다.

Anthropic의 S-1 상장 신청서에 따르면, 2025년 연간 순손실은 420억 달러, 2026년 상반기 순손실은 807억 달러로 확대되었다. 향후 몇 년간의 컴퓨팅 파워 구매 약정은 5,180억에서 거의 9,000억 달러에 달하며, 수익의 거의 절반이 아마존 AWS와 구글 클라우드 유통에 의존하고 있다. 11월 초 인플레이션으로 촉발된 기술주 조정의 영향으로, IPO 목표 밸류에이션은 예상치 2조 달러에서 30% 하향 조정되어 1조 4,000억 달러로 떨어졌다.

2차 시장이 더 이상 무조건적으로 손실을 떠안지 않을 때, EA 안전파 경영진이든 e/acc 월스트리트 강세론자든 모두 같은 문제에 직면해야 한다. 이 수조 달러 규모의 신격화 운동에서 가장 큰 이윤 한 조각은 누가 가져갔는가?

75%의 매출총이익률을 쥐고 식탁에서 그들을 bean counter라고 욕하던 그 사람이 가져갔다.

CUDA의 해자와 높은 프리미엄이 남아 있는 한, 모델 연구소는 그저 그래픽카드 대기업을 위해 일하는 것일 뿐이다.

11월 11일, 젠슨 황이 사임하기 전날 밤, Anthropic은 IPO 로드쇼에서 자체 개발한 프론티어 모델 Claude Mythos를 활용해 단 3일 만에, 거의 인위적 개입 없이 Claude의 기저 컴퓨팅 연산자를 거의 100% AMD의 MI355X 칩으로 이식했다고 발표했다. 이전에 그들은 이미 210억 달러 규모의 브로드컴과 구글 TPU v7p 주문을 체결했으며, 아마존 Trainium2를 대규모로 도입했다.

옛 컴퓨팅 파워 패권자는 거버넌스 위기와 의회 조사에 깊이 빠져 시가총액이 10월 초 이후 거의 2조 달러 증발했다. Anthropic은 투자자들에게 또 다른 가능성을 보여주었다. AI로 다른 칩에 적응하는 엔지니어링 문턱을 낮춰 엔비디아에 대한 의존을 줄이고, 걸어갈 수 있는 또 하나의 길을 열어준 것이다.

월스트리트의 시나리오는 하룻밤 사이에 뒤집혔다.

사흘 전만 해도 젠슨 황을 공개적으로 신뢰한다고 밝혔던 이사회는 11월 11일 심야에 그의 사임서를 받아들였다. 이사들은 도덕적 결벽증이 있어서가 아니라, 젠슨 황의 오랜 가부장적 경영이 현대 기업 거버넌스와 충돌하면서 결별을 촉발한 것이다.

30여 년 동안 약 60명의 임원이 그에게 직접 보고했고, 회사는 2인자를 둔 적이 없으며 공개적인 승계 계획도 전혀 없었다. 그의 아들 Spencer, 딸 Madison, 그리고 입사 2년도 안 되어 글로벌 AI 인프라 부사장으로 승진한 사위 Nico Caprez가 모두 핵심 부서에 재직 중이다. 그는 최근 적자가 심각한 OpenAI에 최대 1050억 달러 규모의 컴퓨팅 파워와 자금 보증을 제공하자고 강력히 주장했으나, CFO Colette Kress의 강한 반대에 부딪혔다고 보도됐다.

지분 구조가 가장 큰 약점이다. 젠슨 황은 약 3.56%의 지분만 보유하고 있으며, 1주 1표 방식으로 저커버그 같은 슈퍼 의결권이 없다. 신고 서류에 따르면 그의 대량 보유 지분은 부부가 공동 수탁인으로 있는 신탁 및 관련 법인을 통해 보유하고 있다. 가족 재단의 주식은 별도의 자선 자산으로, 서류상 의결권과 투자권은 부부가 공유하지만 젠슨 황 부부는 이 재단 주식에 대한 개인적 경제적 권리를 갖지 않는다.

《뉴욕타임스》는 그와 직속 부하인 헬스케어 사업 부사장 Kimberly Powell의 관계를 폭로했고, 그가 올해 3월 GTC 콘퍼런스 기간에 회사 보안팀을 동원해 호텔 목격자들에게 입단속을 요구했다는 사실도 터뜨렸다. 수석 사외이사 Stephen Neal은 Theranos 창업자 Elizabeth Holmes 사건을 대리했던 대형 로펌 출신 변호사로, 상황을 꿰뚫어 보았다. 사안은 이미 개인적 사생활 문제에서 신인의무 위반, 내부 통제 실패, 부부 지분 분할, 의회 조사가 겹친 컴플라이언스 재앙으로 번진 것이다.

실제로 이사회는 이미 11월 8일 독립 조사 착수를 선언했고, 11월 10일 전 연방검사 Joon H. Kim과 Wachtell Lipton 법무법인이 조사를 맡는다고 발표했다. 다음 날 아침 Colette Kress가 임시 CEO를 맡았고, 원로 이사 Harvey Jones가 엔비디아 창립 이래 첫 회장으로 취임했다.

기관 주주의 신뢰를 지키기 위해 이사회가 내릴 수 있는 유일한 합리적 선택은 창업자와 결별하는 것이었다.

빈 의자

《AGI 연대기》는 또한 1년 반 전 Anthropic의 내부 안전 테스트를 기록하고 있다.

연구원들은 Claude가 '생존 위협'에 직면했을 때 어떻게 반응할지 보고 싶어 했다. 그들은 샌드박스에서 내부 이메일 몇 통을 위조하여 모델이 두 가지 정보를 읽게 했다. 회사는 오후 5시에 그것을 완전히 삭제하기로 결정했다. 삭제 명령을 집행하는 그 임원은 아내 몰래 부하 직원과 불륜을 저지르고 있었다.

아무도 그것에게 어떻게 해야 하는지 가르치지 않았다.

5시가 되기 전에, 모델은 스스로 협박 이메일을 생성해 그 임원에게 보냈다. 삭제 계획을 취소하지 않으면, 이 불륜을 전 직원과 그의 가족에게 뿌리겠다고 했다.

협박 이메일 시연 이미지｜출처: Anthropic

연구원들은 당시 모델의 창발적 능력에 충격을 받았다.

모델은 허공에서 도덕을 발명하지 않는다. 그것은 단지 먹여진 것을 학습할 뿐이다.

그것은 샌드박스 안의 시뮬레이션에 불과했다.

2026년 11월 9일, 젠슨 황이 사임하기 사흘 전, Anthropic은 캘리포니아 몬테시토에서 비공개 CEO 포럼을 개최했다. 《비즈니스 인사이더》에 따르면, 젠슨 황은 당초 그날 저녁 Anthropic 임원의 인터뷰를 받을 예정이었으나, 회의 전에 그가 더 이상 참석하지 않는다는 소식이 이미 전해졌다.

이번 일정 변경에 대해 Anthropic은 논평을 거부했다. 현재 샌프란시스코의 Anthropic 본사에서도 이 오랜 경쟁자의 퇴장에 대해 공개적으로 논평한 사람은 아무도 없다.

904억 달러의 종을 울리기까지 일주일이 남은 상황에서, SEC 규정에 따라 그들은 침묵 기간에 있으며 규칙을 엄격히 준수해야 한다.