원문 제목: Inside the whirlwind 24 hours that led the White House to slap export controls on Anthropic
원문 저자: Sophia Cai and Cheyenne Haslett, Politico
편집: Peggy

편집자 주: Anthropic이 불과 며칠 전 출시한 Fable 5 모델이 갑자기 서비스 중단을 맞았다. 그 원인은 트럼프 행정부가 국가 안보를 이유로 외국인 사용자의 Anthropic의 Fable 5 및 Mythos 5 두 첨단 AI 모델 접근을 제한하도록 요구했기 때문이다. 사용자 신원과 접근 권한을 정확히 구분하기 어려워지자, Anthropic은 결국 모든 고객에 대해 해당 모델을 비활성화하기로 결정했다.

이 갑작스러운 서비스 중단 배경에는 백악관과 Anthropic 간 24시간 동안 펼쳐진 고강도 게임이 자리 잡고 있다. Fable 5의 안전장치가 우회될 가능성을 두고, Anthropic CEO Dario Amodei는 재무부, 상무부, 백악관 사이버 책임자 등 정부 고위 관계자와 여러 차례 긴급 통화를 진행했다. 정부는 해당 모델이 소프트웨어 취약점 식별에 악용될 수 있어 국가 안보 위험이라고 판단한 반면, Anthropic은 관련 문제가 '범용적 제재 우회'가 아니라며 정부의 조치가 투명성, 명확성, 기술적 사실에 기반한 법적 절차를 결여했다고 비판했다.

이번 사건의 핵심은 단순한 모델 서비스 중단이나 백악관과 한 AI 기업 간의 소통 실패가 아니다. 첨단 AI 모델이 잠재적 국가 안보 자산으로 재정의되고 있다는 점이다. 모델의 역량이 사이버 보안, 취약점 발굴, 정보 분석 등 민감한 영역에 진입하면서, 정부는 더 이상 기업의 자체 평가와 자발적 검토에 만족하지 않고 수출 통제와 같은 더 강력한 정책 도구를 동원해 모델 출시 속도에 직접 개입하기 시작했다.

더욱 아이러니한 점은, Anthropic이 AI 업계에서 가장 적극적으로 규제를 촉구해 온 기업 중 하나였음에도 불구하고, 이제 규제의 철퇴를 맞은 대상이 되었다는 사실이다. 정부는 Anthropic이 보안 취약점에 충분히 진지하게 대응하지 않았다고 보는 반면, Anthropic은 백악관이 과잉 반응했다고 주장한다. 양측의 논쟁 이면에는 AI 업계가 앞으로 직면해야 할 새로운 문제가 자리 잡고 있다. 누가 모델이 충분히 안전한지 판단할 권한을 가질 것인가? 기업의 자체 안전 입증만으로 충분한가? 국가 안보라는 명목 아래 이루어지는 신속한 개입이 AI 기업의 규제 준수 비용, 출시 속도, 글로벌 경쟁 구도를 어떻게 변화시킬 것인가?

Anthropic 사건은 첨단 AI 규제의 분수령이 될 수 있다. 앞으로 최첨단 모델의 출시는 더 이상 단순한 제품 출시가 아니라, 국가 안보, 지정학, 자본 시장, 산업 질서가 얽힌 고위험 배치로 간주될 것이다.

다음은 원문입니다:

트럼프 행정부가 Anthropic에 대한 전면적인 수출 통제를 시행하기 전, 백악관 고위 관료들은 24시간 동안 긴급 중재를 통해 이 AI 기업이 방금 출시한 새로운 모델을 자발적으로 내리도록 설득하려 했습니다. 여러 정부 관료들은 이 모델이 국가 안보 위험을 초래할 수 있다고 판단했습니다.

두 명의 정부 관료와 한 명의 백악관 고위 관료에 따르면, 이 사태 속에서 Anthropic CEO 다리오 아모데이는 미국 재무장관 스콧 베센트, 백악관 사이버 책임자 숀 케언크로스를 포함한 여러 정부 고위 인사들과 긴장감 넘치는 전화 통화를 여러 차례 진행했습니다. 이 문제를 공개적으로 논의할 권한이 없었기 때문에 관련 인사들은 모두 익명을 요구했습니다.

이 사건은 점점 더 시급해지는 문제를 수면 위로 끌어올렸습니다. 즉, 반복 속도가 매우 빠르고 능력 범위가 계속 확장되는 첨단 AI 모델을 두고 백악관이 혁신과 안전 사이에서 어떻게 선을 그어야 하는가 하는 점입니다.

이러한 통화 내용은 이전에 한 번도 보도된 적이 없습니다.

모델 내리기 전날 밤: 안전 논란

정부가 수출 통제를 시행한 후, Anthropic은 새로운 모델 Fable을 강제로 내리게 되었습니다. 이 모델은 대중에게 공개된 지 불과 며칠 만이었습니다. Anthropic은 이전에 모델이 안전하게 통제 가능하다고 외부에 약속했지만, 출시 직후 정부 고위층은 회사가 주장한 것처럼 안전 장치가 정말 견고한지 재평가하기 시작했습니다.

두 명의 정부 관료와 한 명의 백악관 고위 관료에 따르면, 목요일, 즉 Fable이 공개된 지 이틀 후, 아마존 CEO 앤디 재시가 백악관에 우려를 표명하며 이 모델의 안전 장치가 우회될 위험이 있을 수 있다고 밝혔습니다.

아마존 관련 소통을 잘 아는 한 소식통은 아마존이 잠재적 위험에 대한 피드백을 제공하라는 정부의 요청에 응답한 것이라고 말했습니다.

금요일 아침이 되자 문제는 이미 백악관 최고위층으로 격상되었습니다.

정부 관료와 백악관 고위 관료에 따르면, 베센트, 케언크로스, 백악관 비서실장 수지 와일스 및 기타 고위 관료들이 회의를 열어 이 모델과 정부의 대응 방안을 논의했습니다. 한 소식통에 따르면, 베센트는 당시 휴스턴으로 가는 길에 예정된 공개 행사에 참석 중이어서 원격으로 회의에 참여했습니다.

회의 후, 정부는 아모데이에게 연락을 시도했지만, 그가 건강 휴양 활동에 참여 중이라 전화를 받을 수 없다는 통보를 받았습니다. 한 정부 관료와 한 백악관 고위 관료가 이렇게 밝혔습니다.

Anthropic 대변인은 이 주장을 부인하며 "전혀 사실이 아니다"라고 밝혔다.

Anthropic에 가까운 소식통은 정부가 대략 정오에 처음으로 Amodei에게 연락을 요청했으며, Amodei는 1시간 15분 만에 고위 관료와 통화했다고 전했다. 이 소식통은 Amodei가 일시적으로 통화가 불가능한 동안 Anthropic이 다른 임원이 대신 소통할 수 있다고 제안했다고 말했다.

정부가 최종적으로 Amodei와 연락을 취한 후, 그는 세 차례의 전화 통화에 참여했다. 백악관 고위 관료와 한 정부 관료에 따르면, 통화에 참여한 정부 고위 인사는 약 6명으로, Cairncross, Bessent, 그리고 상무장관 Howard Lutnick이 포함되었다.

백악관 고위 관료는 다른 백악관 참모와 정부 관료들도 일부 통화에 참여했다고 밝혔으며, 여기에는 상무부 산업·안보 담당 차관 Jeffrey Kessler, 백악관 문서비서관 Will Scharf, 백악관 부비서실장 Richard Walters, 그리고 대통령 정책 보좌관 Walker Barrett이 포함된다.

통화 중 Amodei는 자신이 생각하는 오해를 해명하려고 노력했다. 그는 정부의 안전 우려를 반박하며 Anthropic의 보호 체계를 옹호했고, 이미 발생한 우회 방식은 특정 시나리오의 문제일 뿐, 모델이 Anthropic이 설정한 안전 장치에서 완전히 벗어나게 하는 광범위한 의미의 '탈옥'과는 다르다고 강조했다.

수출 통제 시행 후 게시된 블로그 게시물에서 Anthropic은 "현재까지 테스터들이 모델의 안전 조치를 대규모로 우회하고 광범위한 네트워크 능력을 해제할 수 있는 일반적인 탈옥 방법을 찾지 못했다"고 밝혔다. 또한 회사는 Anthropic이나 다른 AI 기업이 모든 탈옥 시도를 완전히 차단하는 것은 현재 현실적이지 않다고 덧붙였다.

Anthropic은 자체 보안 시스템을 변호하며, 보호 체계가 "매우 강력해서 많은 사용자들이 너무 광범위하다고 불평할 정도"라고 말했다.

그러나 Cairncross와 Bessent는 Amodei의 설명에 설득되지 않았다. 한 백악관 관료에 따르면, Amazon의 발견은 미국 국가안보국(NSA)에 제출되었고, NSA는 해당 자료가 '증거'로 충분하다고 판단했다.

백악관 고위 관료와 두 명의 정부 관료에 따르면, 정부는 Anthropic에 모델을 자발적으로 내리고 정부와 협력해 취약점을 수정할 것을 촉구했다. Amodei는 더 많은 시간과 정보를 요구했지만, 모델을 내리겠다는 약속은 하지 않았다. 백악관 고위 관료는 한 통화에서 Bessent가 Amodei에게 직접 "잘못된 결정"을 내리고 있다고 말했다고 전했다.

규제의 철퇴: Fable 5와 Mythos 5 통제 대상에

통화 종료 직후, 트럼프 행정부는 Fable 5와 Mythos 5 두 모델에 대해 수출 통제를 시행했습니다. Anthropic에 따르면, 정부는 국가 안보 권한을 인용해 외국인 시민이 이러한 모델을 사용하는 것을 금지했습니다. 회사는 이 명령의 '실질적 효과'는 규정 준수를 위해 Anthropic이 모든 고객의 관련 모델 접근을 '갑작스럽게 차단'해야 했다는 것이라고 밝혔습니다.

백악관 고위 관리는 "우리는 몇 시간 동안 그들과 협력해 달라고 간청했으며, 수출 통제는 최후의 수단이었습니다. 우리가 원했던 일은 아니지만, 선택의 여지가 없었습니다."라고 말했습니다.

보도 이후, Anthropic에 가까운 소식통은 회사에 소위 '자발적 협력'이라는 선택권이 주어지지 않았다고 반박했습니다.

해당 소식통은 "백악관은 모델을 내리라는 90분의 시간만 주었고, 실제 위협에 대한 어떤 세부 사항도 제공하지 않았습니다. 간청은커녕 협력을 요구한 적도 없으며, 단지 발표된 90분의 최후 통첩만 있었을 뿐입니다."라고 말했습니다.

백악관 고위 관리는 백악관 관계자들이 Amodei가 Anthropic 기술의 위험성을 핵폭탄에 비유하는 것을 들었다고 전했습니다. 따라서 AI 안전 규제를 줄곧 주장해 온 CEO가 알려진 보안 취약점을 수정하기 위해 시스템을 내리는 것을 거부했을 때, 정부 관계자들은 이해하기 어려워했습니다.

Anthropic은 오랫동안 AI 업계에서 가장 적극적으로 규제를 촉구해 온 회사 중 하나로 여겨져 왔습니다. 이 회사는 AI의 급속한 발전이 초래할 수 있는 글로벌 안전 위험과 고용 충격에 대응하기 위해 규제 프레임워크가 마련되어야 한다고 여러 차례 주장해 왔습니다.

정부의 사고 방식을 아는 세 명의 소식통에 따르면, 아마존만이 정부에 우려를 제기한 유일한 회사는 아니었습니다.

그중 한 명은 "문제의 핵심은 Anthropic이 이 문제에 대해 충분히 진지한 태도를 보이지 않았다는 점입니다. 만약 Anthropic이 이를 진지하게 받아들이고 단순한 고립된 사건으로 가볍게 넘기지 않았으며, 자발적으로 수정하거나 접근을 중단했다면, 이 상황은 여기까지 오지 않았을 것입니다."라고 말했습니다.

Anthropic에 가까운 또 다른 소식통은 소위 '탈옥'이 Fable 5의 보안 시스템이 무력화되었음을 의미하지 않는다고 반박하며, 회사가 Fable 출시 전에 정부와 소통을 유지했다고 지적했습니다. 이 소식통은 여러 차례의 소통 과정에서 정부가 Fable 출시에 반대하지 않았다고 밝혔습니다.

정부가 수출 통제를 시행한 후, Anthropic은 블로그 게시물에서 정부 지침을 준수하겠다고 밝혔지만, 동시에 이러한 조치가 과도한 대응이라고 생각한다고 전했습니다.

Anthropic은 "우리가 이전에 공개적으로 밝힌 바와 같이, 정부는 안전하지 않은 배포를 차단할 권리가 있어야 한다고 생각합니다. 그러나 이는 투명하고 공정하며 명확하고 기술적 사실에 기반한 법적 절차 위에서 이루어져야 합니다. 이번 조치는 이러한 원칙에 부합하지 않습니다."라고 밝혔습니다.

익명을 조건으로 발언을 허가받은 백악관 관리는 혁신이 여전히 백악관의 '최우선 목표이지만, 우리는 안전에도 동등하게 우선순위를 두어야 합니다'라고 말했습니다.

아마존은 성명에서 정부와의 구체적인 소통 내용을 공개하는 것을 거부했습니다. 아마존 대변인은 "정부가 잠재적 안전 위험에 대해 우리의 의견을 묻는 것은 드문 일이 아닙니다. 이러한 경우가 발생하면 우리는 관련 논의 내용을 공개하지 않습니다."라고 말했습니다.

올해 4월 초, Anthropic은 최신 강력 모델인 Mythos가 소수의 기술 회사와 사이버 보안 회사에만 공개되어 소프트웨어 취약점 테스트를 돕도록 할 것이라고 발표했습니다. 당시 Anthropic은 이 모델의 성능이 너무 강력하여 부적절한 사용자 손에 들어갈 경우 심각한 결과를 초래할 수 있으므로 배포 범위를 제한해야 한다고 밝혔습니다.

Mythos의 등장은 Amodei와 백악관 고위 관리들 간의 일련의 회의를 촉발했습니다. 양측은 이러한 회의를 생산적이었다고 설명했습니다. 이후 고급 AI 모델 규제 방법에 대한 여러 차례의 논의가 이어졌고, 결국 최근 행정 명령으로 이어졌습니다. 이 명령은 기업이 고급 모델을 광범위하게 배포하기 전에 자발적으로 모델을 정부 검토에 제출하도록 요구합니다.

이번 주에 공개적으로 출시된 Fable 5는 Anthropic에 의해 'Mythos급 모델'로 설명되지만, 일반 사용자에게 공개할 수 있도록 추가 안전 조치가 갖춰져 있습니다. 이 모델은 미국 정부와 영국 AI 안전 연구소의 검토를 받았습니다.

그러나 소위 안전 결함이 공개된 후, 여러 정부 관리는 이 모델이 즉시 서비스에서 제거되어야 한다고 판단했습니다.

토요일 오전, 전 백악관 AI 책임자이자 규제에 강력히 반대하는 David Sacks는 X에 글을 올려 정부의 Anthropic에 대한 수출 통제를 지지했습니다.

Sacks는 이번 '탈옥'이 단순하거나 사소한 것이 아니라고 생각하며, 수출 통제가 정부가 AI 산업을 더 광범위하게 통제하려는 시도라고도 생각하지 않는다고 밝혔습니다. Sacks는 "정부는 현재 Anthropic이 보안 문제를 해결한 후 수출 통제를 해제하고 Fable을 다시 공개 상태로 되돌리기를 원합니다. 정부는 이 모든 것이 가능한 한 빨리 이루어지기를 바랍니다. 솔직히 말해, 정부는 Anthropic이 그동안 안전 요청이 최우선 사항이라고 말해놓고 이제는 협력하지 않으려는 점에 당혹스러워하고 있습니다."라고 썼습니다.

Sacks와 정부 내 다른 관료들은 이전에도 Anthropic을 여러 차례 비판하며, 좌파적 정치 편향이 있다고 지적하고, 더 강력한 업계 규제를 주장하며 대규모 고용 충격을 경고하는 점을 들어 해당 기업이 공포를 조장하고 있다고 비난해 왔다.

올해 초, 피트 헤그세스 국방장관과 미 국방부는 정부와 Anthropic 간의 갈등을 전례 없는 수준으로 끌어올렸다. 3월 3일, Anthropic이 자사 AI 도구의 대규모 국내 감시 및 자율 무기 시스템 사용을 거부하자, 미 국방부는 해당 기업을 공급망 위험 기업으로 지정했다.

토요일, Sacks는 정부와 Anthropic 간의 기존 분쟁과 이번 수출 통제 결정은 별개의 문제라고 밝혔다. Sacks는 "정부는 Anthropic의 기술 역량을 중요하게 생각하며, 이 문제는 심각하지만 쉽게 해결될 수 있다고 본다. 이제 공은 Anthropic 쪽에 있다."라고 적었다.

[원문 링크]

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia