Anthropic 최강 모델이 차단된 24시간: 3통의 전화, 대주주의 배신, 그리고 서사 통제권의 상실

6월 13일, Anthropic의 가장 진보된 두 모델이 미국 정부에 의해 사용 중단되었습니다.

하나는 Fable 5이고, 다른 하나는 Mythos 5입니다. 전자는 막 공개 출시되었고, 후자는 더 제한된 사이버 보안 고객을 대상으로 했습니다. 금지 명령은 미국 상무부에서 발령되었으며, 미국 외 고객과 미국 내 외국인 시민 모두에게 적용됩니다. Anthropic의 최종 선택은 간단했습니다. 전면 중단이었습니다.

이 사건에 대한 모든 세부 사항을 검토한 후, 우리는 이 24시간의 타임라인을 대략 정리했습니다.

6월 11일 목요일, Fable 5가 공개 출시된 지 이틀 후, 아마존 CEO 앤디 재시(Andy Jassy)가 백악관에 위험을 제기했습니다. 그는 Fable 5의 안전 장치가 우회될 수 있다고 우려했습니다. 아마존 연구원들은 일련의 프롬프트를 통해 Fable 5가 제한되어야 할 정보를 제공하도록 유도했으며, 이 정보는 사이버 공격에 사용될 수 있다고 주장했습니다.

6월 12일 금요일 아침, 문제는 이미 백악관 최고위급 회의에 상정되었습니다. 스콧 베센트(Scott Bessent) 재무장관, 숀 케언크로스(Sean Cairncross) 백악관 사이버 책임자, 수지 와일스(Susie Wiles) 백악관 비서실장 및 기타 고위 관리들이 토론에 참여했습니다. 베센트는 휴스턴으로 가는 길에 원격으로 회의에 접속했습니다.

그리고 세 통의 전화 통화가 이어졌습니다.

Anthropic CEO 다리오 아모데이(Dario Amodei)가 통화에 참여했을 때, 맞은편에는 약 6명의 고위 관리들이 앉아 있었습니다. 베센트와 케언크로스 외에도 하워드 러트닉(Howard Lutnick) 상무장관이 있었습니다. 다른 참석자로는 제프리 케슬러(Jeffrey Kessler) 산업안보 담당 상무차관, 윌 샤프(Will Scharf) 백악관 비서실장, 리처드 월터스(Richard Walters) 백악관 부비서실장, 그리고 워커 배럿(Walker Barrett) 대통령 정책 보좌관이 있었습니다.

아모데이는 이 상황을 오해로 설명하려고 했습니다. 그는 아마존이 발견한 것은 특정 우회 방법일 뿐, 안전 장치를 광범위하게 무력화할 수 있는 일반적인 프롬프트 탈옥(jailbreak)이 아니라고 주장했습니다. Anthropic은 이후 테스터들이 모델의 보안 시스템을 대규모로 우회할 수 있는 방법을 아직 찾지 못했다고 공개적으로 밝혔습니다.

그러나 백악관은 설득되지 않았습니다.

아마존 CEO의 발견은 미국 국가안보국(NSA)에 평가를 위해 전달되었고, 백악관은 충분한 증거를 확보했다고 판단했습니다. 정부는 Anthropic에 자발적으로 모델을 중단하고 정부와 함께 취약점을 수정할 것을 요구했습니다. 아모데이는 더 많은 시간과 정보를 원했지만, 모델을 철회하겠다는 약속은 하지 않았습니다. 베센트는 전화 통화에서 그가 "잘못된 결정"을 내렸다고 직접 말했습니다.

그 후, 수출 통제가 시행되었습니다.

Anthropic 측에서는 다른 서사를 제시했습니다. 그들은 백악관이 모델을 내려달라고 요청한 시간이 단 90분에 불과했으며, 실제 위협에 대한 구체적인 내용은 설명하지 않았다고 주장했습니다. 반면 백악관은 수출 통제가 Anthropic의 협조를 수시간 동안 구했지만 실패한 후의 최후의 수단이었다고 밝혔습니다.

이 사건의 또 다른 핵심 포인트는 아마존의 위치가 매우 미묘하다는 점입니다.

2024년 말, 아마존은 Anthropic에 40억 달러를 추가 투자하여 총 투자액을 80억 달러로 늘렸습니다. 동시에 Anthropic은 AWS를 주요 훈련 파트너로 지정했으며, 향후 모델 훈련과 배포에 AWS 칩을 사용할 예정입니다. Claude는 항상 Amazon Bedrock에서 가장 중요한 모델 중 하나였습니다.

마이크로소프트와 OpenAI의 동맹은 이미 명확해졌고, 아마존이 Anthropic에 베팅한 것은 본질적으로 우회하는 방식이었습니다.

마이크로소프트는 OpenAI를 보유하고 있습니다. 구글은 Gemini를 보유하고 있으며, Anthropic에도 투자하고 있습니다. 아마존은 충분히 강력한 자체 개발 최첨단 모델이 없기 때문에 AWS의 컴퓨팅 파워, Trainium 칩, Bedrock 플랫폼을 외부 모델 회사에 의존할 수밖에 없었습니다.

하지만 1년 반 후, 아마존과 OpenAI도 연결되었습니다.

올해, 아마존은 OpenAI에 최대 500억 달러를 투자하는 방안을 논의했습니다. 당시 OpenAI는 최대 1000억 달러의 신규 자금을 모색 중이었으며, 잠재적 거래에는 OpenAI가 아마존의 AI 칩을 구매하는 내용이 포함될 수 있었습니다. Axios는 또한 OpenAI의 2025년 연간 수익이 200억 달러를 초과했지만, 지출 약정은 1.4조 달러에 달한다고 보도했습니다.

아마존은 최첨단 모델 회사가 AWS의 컴퓨팅 파워를 소비하고, 자체 개발 칩을 검증하며, 데이터 센터를 채우는 동시에 가장 강력한 모델을 자사의 엔터프라이즈 클라우드 진열대에 올려놓을 필요가 있습니다. 이는 더 이상 단순한 재정적 투자가 아닙니다.

따라서 아마존은 Anthropic에 투자하면서도 OpenAI에 접근하고 있습니다. 모델 회사의 자금 제공자이자 공급자 역할을 동시에 수행하는 셈입니다. 모델 판매를 도우면서도 정부에 이 모델들이 얼마나 위험한지 설명해야 합니다.

결과적으로, 이번에는 아마존이 먼저 Anthropic의 반대편에 섰습니다. Anthropic의 관점에서 보면, 자금, 클라우드, 칩, 유통 채널을 제공하는 파트너가 정부에 금지 조치를 촉발할 만한 안전 신호를 제출한 것입니다. 물론 아마존의 공식 입장은 "백악관이 물어봐서, 그들의 질문에 답변했을 뿐"입니다.

지난 2년 동안 AI 기업들은 스스로를 국가적 자산으로 포장하는 데 열을 올렸다. 능력이 뛰어날수록 기업 가치는 높아지고, 자금 조달은 순조로워지며, 정부 조달 계약도 더 큰 상상력을 불러일으켰다. Anthropic은 특히 이런 내러티브에 능숙하다. 더 신중한 안전 관련 언어를 사용해 OpenAI와 차별화하면서도, '첨단 위험'이라는 수사로 규제 당국에 자신들이 진지하게 다뤄져야 한다는 점을 증명해 왔다.

이제 미국 정부는 실제로 모델을 국가 안보 자산으로 간주하기 시작했다.

백악관 관료들의 혼란도 여기서 비롯된다. Politico에 따르면, 백악관 관계자 중 한 명은 Amodei가 Anthropic 기술의 위험을 핵폭탄에 비유하는 것을 직접 들었다고 한다. 그가 알려진 보안 취약점 때문에 모델을 내리지 않겠다고 거부했을 때, 정부 관료들은 이를 기술적 의견 차이가 아닌 태도 문제로 받아들였다.

이번이 첫 충돌은 아니다. 지난 3월 3일, 미 국방부는 Anthropic을 공급망 위험으로 지정한 바 있다. 그 이유는 Anthropic이 자사의 AI 도구가 대규모 국내 감시 및 자율 무기에 사용되는 것을 거부했기 때문이다. Anthropic과 미국 정부 사이에는 이미 전례가 있었다.

이번에 Anthropic은 정부의 지시가 구체적인 국가 안보 우려를 명시하지 않았다고 주장하며, 이번 조치가 투명성, 명확성, 그리고 기술적 사실에 기반한 법적 절차를 결여했다고 비판했다. Anthropic은 이번 문제가 광범위한 금지를 정당화하기에는 너무 좁은 범위의 우회 방법에 불과하다고 본다.

그러나 정부의 시각에서 모델 안전은 더 이상 기업이 자체적으로 백서를 작성하고, 레드팀 테스트를 수행하며, 시스템 카드를 발행하는 내부 프로세스가 아니다. 누가 모델에 접근할 수 있는지, 누가 모델을 훈련시킬 수 있는지, 외국인 직원이 모델 가중치를 볼 수 있는지 등이 모두 수출 통제의 언어로 끌려들어가고 있다.

Anthropic이 4월에 Mythos를 제한된 기술 및 사이버 보안 기업에만 공개하겠다고 발표했을 때, 이미 백악관과 여러 차례 회의를 진행한 상태였다. Fable 5가 출시되기 전에도 미국 정부와 영국 AI 안전 연구소의 검토를 거쳤다. Anthropic 측은 정부가 모델 출시 전에 반대 의사를 표명하지 않았다고 주장한다.

이로 인해 갈등은 더욱 추악해졌다.

모델 출시 전에는 안전 협력이었다. 모델 출시 후에는 국가 안보가 되었다.

OpenAI는 이 사고를 지켜보고 있다.

Anthropic이 최고 성능 모델을 강제로 내리게 되면서, OpenAI의 상대적 위치는 더욱 편안해졌다. Anthropic이 규제 문제에 발이 묶일수록, OpenAI는 '협력 가능한' 선택지가 되기 쉽다. 만약 아마존이 실제로 OpenAI에 더 가까워진다면, 이는 추가적인 헤지 수단이 될 수도 있다.

물론, 아마존이 OpenAI가 Anthropic을 견제하는 것을 돕기 위해 행동했다는 공개적인 증거는 없습니다.

더 날카로운 사실은, 최첨단 모델이 수조 달러 규모의 자본 지출 주기에 진입하면서 파트너십이 더 이상 깨끗하지 않다는 점입니다. 클라우드 업체는 모델 회사에 투자하고, 모델 회사는 클라우드 컴퓨팅을 구매하며, 정부는 클라우드 업체에 보안 위험을 묻고, 경쟁사들은 동일한 규제 영역에서 서로를 레드팀(red team)으로 공격합니다.

자금 제공자, 공급업체, 유통업체, 검토자가 모두 같은 회사들이 맡기 시작했습니다.

이는 특정 프롬프트 탈옥(prompt jailbreak)보다 더 중요한 문제입니다.

Fable 5와 Mythos 5가 차단된 그날 밤, Anthropic이 잃은 것은 두 모델의 접근 권한만이 아니었습니다. 자신의 서사에 대한 통제권 일부를 잃은 것입니다.

아마존의 손은 여전히 AWS 콘솔 위에 있습니다. OpenAI의 펀딩 테이블은 아직 흩어지지 않았습니다. 미국 정부는 이미 모델 발표회의 첫 번째 줄에 자리 잡았습니다.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia