简体中文

繁體中文

English

Tiếng Việt

한국어

日本語

ภาษาไทย

Türkçe

젠슨 황은 왼쪽으로, 아모데이는 오른쪽으로

이 글을 읽으려면 21 분

실리콘밸리 거대 기업들이 최첨단 AI의 가속화와 감속을 두고 격렬하게 편을 갈랐고, Anthropic 연구원의 사직서와 Amodei의 '감속' 주장이 논란을 불러일으켰다. 그러나 각 기업은 여전히 모델 개발을 추진하고 있으며, 누구도 진정으로 브레이크를 밟지 않고 있다.

원문 제목: 《젠슨 황은 왼쪽으로, 아모데이는 오른쪽으로》
원문 저자: 쑤양, 텐센트 테크놀로지

최첨단 AI가 계속 가속할 것인가, 아니면 브레이크를 밟을 것인가가 실리콘밸리의 가장 큰 논쟁거리가 되었다.

이 논쟁을 둘러싸고 실리콘밸리 거물들이 편을 가르기 시작했는데, 아모데이, 올트먼, 머스크, 그리고 하사비스는 '일시 중단파'를 형성했다. 젠슨 황은 확고한 '가속파'로, 'AI 종말론'이 과학적 근거가 부족하다고 비판했다. 양 르쿤은 아모데이를 계속 조롱하며 말했다: "(아모데이)가 예전에 OpenAI에 있을 때, GPT-2가 오픈소스로 공개하기에 위험하다고 생각했는데, 나는 그때 그를 비웃었다. 이제 다들 계속 지켜보면 된다."

이와 대조적으로 저커버그와 나델라 등은 상대적으로 중립적인 입장을 보였다.

거물들이 각자 편을 가르는 것은 실리콘밸리가 최첨단 모델의 일시 중단에 대한 합의를 이루지 못했음을 의미하며, 이는 각 기업이 AI 산업 체인에서 차지하는 생태적 위치의 차이에서 비롯된다. 모델 차원의 선두주자들은 각기 다른 이유로 일시 중단을 외칠 수 있지만, 수천억 달러 규모의 컴퓨팅 주문을 쥐고 있는 오라클, AWS, 그리고 먹이사슬 최상위에 서 있는 엔비디아 같은 기업들이 멈추기를 바라는 것은 긍정적인 응답을 받을 수 없다.

워싱턴에서는 '일시 중단'의 목소리가 지지를 받지 못했을 뿐만 아니라, 일련의 의문까지 불러일으켰다.

"이건 좀 트로이 목마 같은 냄새가 난다(It feels a little bit to me like a bit of a Trojan horse)." JD 밴스가 인터뷰에서 한 이 말은 사실 워싱턴의 진짜 시각을 반영한다 — 목마를 만드는 기업이 거듭 문을 더 좁히라고 요구할 때, 그 문이 과연 어떤 기업에게 적합한지 살펴봐야 한다는 것이다.

01 일시 중단, 경고, 그리고 한 통의 사직서

이 논쟁의 도화선은 Anthropic 연구원 제이콥 코크슨의 사직이었다.

그는 이전에 OpenAI와 Anthropic에서 3년간 사전 학습 연구를 하며 최첨단 모델 훈련에 직접 참여했다. X에 올린 장문의 글에서 그는 거의 예의를 갖추지 않았다: "두 회사 모두 책임감 있게 행동하지 않았다. 그들은 자기 개선이 가능한 초지능을 향해 곧장 돌진하며 우리의 목숨을 걸고 있다."

그는 연구소 내부 사람들이 AI가 10년 안에 모든 인류를 죽일 수 있다고 진심으로 믿고 있으며, 이것이 결코 홍보용 퍼포먼스가 아니라고 직언했다. 많은 동료들이 이미 현재 단계를 '결정적 순간', '종국'으로 표현하기 시작했다. 코크슨은 곧 귀속될 주식까지 포기했다. 그는 Anthropic에 겨우 4개월밖에 있지 않았는데, 회사 규정상 6개월이 되어야 행사할 수 있었다.

앤스로픽 전 연구원 제이콥 콕슨(Jacob Coxon)

이어서 앤스로픽의 정렬 과학 담당 에반 허빙거가 공개적으로 응답했다: 제이콥이 맞다, 우리는 AI가 모든 인류를 죽일 수 있다고 진심으로 믿고 있다. 개인적으로 나는 10년 내에 그 확률이 10% 이상이라고 생각한다. 앤스로픽은 최선을 다하고 있지만, 우리는 아직 초지능 정렬에 대한 명확한 해결책을 갖지 못했고, 궤도에 올랐다고 보기도 어렵다.

이 두 번의 총성이 원래 주로 실험실 내부에서 발효되던 우려를 대중 앞에 직접 드러냈다. 이러한 배경에서 앤스로픽 창립자 겸 CEO 아모데이는 곧바로 장문을 발표하며 체계적으로 「프런티어 연구 둔화」를 주장했다. 그는 더 이상 「안전에 더 투자하자」만 이야기하지 않고, 안전 메커니즘이 따라잡을 시간을 확보하기 위해 능력 도약의 속도를 주도적으로 통제할 것을 명확히 요구했다.

올트먼, 머스크, 하사비스가 곧 공개적으로 호응하며 「일시정지파」를 형성했다.

제이콥 콕슨과 아모데이의 「감속」론이 등장하기 전, 조슈아 벤지오, 제프리 힌턴 같은 「AI 대부」들은 줄곧 위험에 대한 관심을 촉구하는 제안을 해왔다.

콕슨의 사퇴를 언급하며, 벤지오는 프런티어 AI 연구소의 과학자들이 대중보다 더 일찍 최신 모델의 능력을 볼 수 있는 경우가 많기에 그들의 위험 판단은 진지하게 다뤄질 가치가 있다고 말했다.

동시에 벤지오는 구체적인 예를 들어, 현재 AI 시스템이 이미 해킹 공격과 설득 능력을 갖추고 있어 인류의 이익을 해치는 데 사용된다면 심각한 결과를 초래할 수 있다고 밝혔다. 그는 또한 AI가 더 긴 시간 범위의 계획 능력을 갖추게 되면서 이러한 위험이 더욱 확대될 수 있다고 우려했다.

BBC가 향후 10년 내 AI가 「모든 인류를 죽일」 확률이 10%를 넘는다는 것에 대해 질문하자, 제프리 힌턴도 이 숫자가 「불합리하지 않다」고 밝혔지만, 동시에 인류가 이전에 「곧 우리보다 더 똑똑해질 수 있는 종의 존재」에 직면한 적이 없기에 신뢰할 만한 추정치를 내놓는 방법을 아무도 진정으로 모른다고 강조했다.

힌턴은 AI가 미래에 위험한 생물 바이러스, 컴퓨터 바이러스 설계 및 대규모 사이버 공격发动에 사용될 수 있다고 생각한다. 따라서 인류는 위험이 통제 불능이 되기 전에 효과적인 통제 방법을 찾아야 한다.

실리콘밸리의 새로운 「일시정지론」 제안자들과 달리, 「AI 대부」들은 위험에 대한 관심을 촉구하고 위험 통제 메커니즘 구축을 모색하는 데 더 중점을 두며, 직접 브레이크를 밟지는 않는다. 또한 입장상으로도 학술 분야의 의견과 제안은 더 순수한 반면, 프런티어 연구소의 제안은 표면적으로 「인류를 위해」라는 라벨을 붙였더라도 100% 상업적 고려에서 벗어나기는 어렵다.

이것이 바로 JD 밴스가 '일시 중단론'을 트로이 목마에 비유한 이유입니다.

02 분열과 편 가르기

'가속파' '감속파'와 '중간파' 진영. 출처: 뉴욕타임스

9월 15일, 여러 기술 기업 수장들이 Salesforce Dreamforce 대회에서 잇따라 발언하면서 이 논쟁은 더욱 직접적인 관점 대립으로 변모하기 시작했습니다.

이날 아모데이, 젠슨 황, 올트먼은 모두 AI 안전에 대해 언급했지만, 발전 속도, 안전 책임, 그리고 기업이 취해야 할 행동에 대해서는 서로 다른 답을 내놓았습니다.

아모데이는 Salesforce CEO 마크 베니오프(Marc Benioff)와 같은 무대에 섰을 때, AI 기업이 자체적인 행동을 통해 더 높은 안전 기준을 세워야 한다고 다시 한번 강조했습니다. 그는 기업이 자발적으로 더 엄격한 안전 조치를 취하는 것이 업계 전체를 발전시키는 방식이 될 수 있다고 보았습니다.

다시 말해, 아모데이의 태도는 업계 전체의 감속을 촉구하는 것에서 기업 자체적으로 안전 가드레일을 설치하는 쪽으로 전환되기 시작했습니다.

젠슨 황은 "새로운 법도, 새로운 규제도 필요 없다"고 밝혔습니다. 그가 보기에 속도와 안전은 양자택일의 관계가 아니며, 기업은 모델 개발을 최대한 빠르게 추진할 수 있고, 통제 불능 상태가 되거나 제품의 안전을 보장할 수 없다면 문제를 해결하기 위해 잠시 멈추면 된다는 것입니다.

베니오프의 태도는 더욱 개방적이고 자율성을 강조했습니다. 그는 기업이 느려야 한다고 생각하면 느려야 하고, 빨라야 한다고 생각하면 빨라야 하며, 동시에 자신의 결정에 책임을 져야 한다고 말했습니다.

OpenAI 창립자 겸 CEO 올트먼은 Dreamforce 현장에서 OpenAI는 물론 AI 업계 전체가 대중에게 중대한 피해를 주지 않으면서 안전하게 발전할 수 있다고 매우 확신한다고 밝혔습니다. 그는 또한 외부에서 자신의 견해를 업계 전체의 AI 발전 속도 감속을 지지하는 것으로 해석하는 것에 실망감을 느낀다고 말했습니다.

다시 말해, 올트먼도 전환하기 시작했으며, 자신이 표현하려는 것은 업계 감속을 촉구하는 것이 아니라 안전과 모니터링 작업이 능력 향상보다 선행되어야 한다는 점을 강조하고 싶었다는 것입니다.

저커버그는 한 기업의 안전 조치를 다른 AI 기업들도 반드시 동시에 감속해야 한다는 전제 위에 세우는 것에 반대했습니다. 그는 독립 평가 기관과 외부 자문을 도입해 모델 안전성을 검증하는 것이 업계 모범 사례라고 생각했습니다. 그는 또한 Meta가 이전에 다른 기업들이 먼저 AI 발전 감속에 대한 합의를 이루기를 기다리는 대신, 자체적으로 Muse AI 도구 개발을 늦춘 바 있다고 밝혔습니다.

마이크로소프트 CEO 사티아 나델라의 태도는 어느 정도 올트먼과 일치하며, 가드레일 설치를 장려하고 충분한 경쟁도 장려한다.

「우리가 먼저 해야 할 일은 인류를 위해 봉사하고 기술이 인류의 통제 아래 있도록 보장하는 것입니다. 동시에 AI 기술의 광범위한 확산이 가장 핵심적이며, 선택과 경쟁이 있어야 합니다. 안전은 진지하게 다뤄야 하지만, 그것을 신비화하는 것이 아니라 엔지니어링과 투명한 방식으로 해결해야 합니다.」라고 나델라는 9월 15일 All-In Summit 2026 정상회의에 참석했을 때 말했다.

이 기업인들 외에도 워싱턴의 목소리도 더욱 가세했다.

트럼프가 젠슨 황에게 직접 전화를 걸어 AI 산업의 지속적인 발전에 대한 지지를 공개적으로 표명한 이후, 미국 대통령 과학기술자문위원회 공동의장 데이비드 색스(David Sacks)는 이어서 기술 기업들이 최전선 AI를 계속 추진할 수 있다고 밝히면서, 일부 기업이 제기하는 「감속」 주장 이면의 동기에 의문을 제기했다.

03 누가 규칙을 만들 것인가?

논의가 확대되면서, 논쟁은 AI 위험 자체에서 더 나아가 최전선 AI의 안전 기준이 과연 기업이 자체적으로 제정해야 하는지, 아니면 정부와 독립 기관이 개입해야 하는지로 확장되었다.

블룸버그는 소식통을 인용하여 Anthropic, 구글, OpenAI가 이전에 인공지능 업계 표준 기구 설립을 논의한 적이 있다고 보도했다.

7월에 하사비스는 미국이 주도하는 AI 표준 기구 설립을 제안하는 글을 발표했는데, 운영 방식은 미국 금융산업규제국(FINRA)과 유사하다. 이 기구는 첨단 AI 모델이 공식 배포되기 전에 테스트하여 해당 안전 기준에 도달했는지 판단할 수 있다.

하사비스의 구상에 따르면, 이 기구는 전적으로 정부가 주도해서는 안 되고, 민관 협력 모델을 취해야 한다. 그중 정부는 감독 역할을 하고, AI 업계가 자금을 제공하며, 동시에 독립적인 최고 기술 전문가와 오픈소스 커뮤니티 대표의 참여를 흡수한다.

하사비스는 모델이 현실 세계에 진입하기 전에 독립적인 안전 검사를 추가하려 했는데, 이는 미국 정부가 6월 초에 발표한 규제 논리와 비교적 부합한다: 기업은 모델 공개 발표 전에 자발적으로 정부에 평가를 맡길 수 있고, 최대 발표 전 30일 접근 기간을 제공할 수 있으며, 강제 승인이나 발표 허가를 두지 않는다는 것을 명확히 했다.

다소 극적인 것은 이후 Fable 5와 Mythos 5가 출시되어 이 절차를 따르지 않았지만, 매우 강력한 네트워크 공방 능력을 갖춘 것으로 발견되어 결국 미국 BIS에 의해 수출 통제 형태로 일시적으로 오프라인되었다.

그럼에도 불구하고, 정책의 태도는 안전 가드레일 설치를 요구하는 데 그쳤을 뿐, 속도 감축에 대한 입장 표명이나 지침은 없었다.

하사비스와 유사한 관점을 가진 사람은 OpenAI 수석 과학자 야쿠브 파초키(Jakub Pachocki)다. 그는 9월 초에도 안전 표준 공유와 AI의 추가 발전을 둘러싼 국제적 조율이 현재의 우선 과제가 되어야 한다고 강조했다.

04 아무도 진짜로 브레이크를 밟지 않았다

지금까지 이 논쟁은 프런티어 AI 기업들의 개발 속도를 실제로 바꾸지 못했다.

Anthropic, OpenAI, Google, xAI 등의 기업은 여전히 모델 연구개발을 계속 추진하고 있으며, 컴퓨팅 파워와 데이터센터, AI 인프라를 둘러싼 경쟁도 이 논쟁 때문에 멈추지 않았다. 자본시장 측면에서는 다른 변화가 나타났다. Anthropic은 여전히 올해 IPO를 준비하고 있는 반면, OpenAI는 IPO 계획을 2027년으로 연기했다.

아모데이가 업계 전체를 멈춰 세우고 Anthropic과 함께 모델 능력의 경계를 넘는 것에 가드레일을 설치할 해결책을 찾자고 하는 것은, 어느 정도 '남의 돈으로 베푸는 것'으로 이해할 수 있다.

이것이 바로 아모데이가 '완벽무결한 작은 천사인 척한다'는 꼬리표가 붙는 이유이기도 하다.

이 위험 통제 주제에 관해 젠슨 황이 대표하는 관점은 사실 현실에 더 부합한다. 기업에 우려가 있거나 문제를 발견하면 스스로 해결책을 모색할 수 있고, 모색한 효과적인 방안을 업계와 공유하면 된다.

100명 규모의 팀과 1000명 규모의 팀을 함께 멈춰 세우는 것은 합의의 기반 자체가 없다. 아모데이 자신도 만약 자기만 멈춘다면 OpenAI 등 경쟁사에 추월당할 가능성이 크다는 것을 잘 알고 있다.

더 중요한 것은 기업 지배구조 차원의分歧다. Anthropic과 OpenAI는 모두 공익법인(Public Benefit Company)으로, '인류의 미래를 위해 단기 재무적 이익을 포기한다'고 외칠 수 있고, 투자자에게 '이 점은 우리가 일찍부터 합의했다'고 말할 수 있다. 그러나 Google, Microsoft, Meta 같은 상장사는 경영진이 2차 시장 주주에 대해 법적 신인의무를 진다.

두 가지 서로 다른 이해관계를 가진 기업이 이 점에서 합의에 도달할 가능성도 크지 않다.

간과됐을 수 있는 세부 사항이 하나 더 있다. '일시 중단론' 이전에 Anthropic과 OpenAI는 각각 최강 모델을 연이어 발표했는데, 하나는 Fable 5.1이고 다른 하나는 GPT-6 Astra다.

수많은 요청 속에서, 다른 회사들의 새 모델도 계속 발표될까요?