TL;DR· Anthropic이 미국 상원에 서한을 보내 알리바바와 Qwen 관련 운영사가 Claude의 능력을 대규모로 추출했다고 주장.
· 이러한 증류 공격은 강력한 모델의 출력을 통해 다른 모델을 훈련시키며, 모델 가중치 수출 제한을 우회할 수 있음.
· 알리바바는 증류 관련 주장에 대해 답변하지 않았으며, 미국의 모델 규제는 Anthropic 자체의 개방성도 제한하기 시작함.

Anthropic은 미국 상원 은행위원회에 보낸 서한에서 알리바바와 그 AI 연구소 Qwen 관련 운영사가 약 2만 5천 개의 사기 계정을 사용해 Claude 모델의 능력을 대규모로 추출했다고 주장했다. Reuters 등 매체가 확인한 서한에 따르면, Anthropic이 "알려진 최대 규모"라고 밝힌 이 모델 증류 공격은 2026년 4월 22일부터 6월 5일 사이에 발생했으며, Claude와의 상호작용이 2,880만 회를 넘었다. 이 사건이 민감한 이유는 규모가 클 뿐만 아니라, 미국 정부가 AI 수출 통제를 강화하고 국방부가 알리바바를 '중국 군사 기업' 명단에 추가한 것과 같은 시기에 발생했기 때문이다.

소위 '모델 증류'는 모델 가중치나 소스 코드를 직접 도용하는 것이 아니라, 강력한 모델의 출력 결과를 사용해 다른 모델을 훈련시켜 후자가 전자의 일부 능력을 빠르게 복제하도록 하는 것이다. AI 연구 개발에서 이는 일반적인 기술이지만, 사기 계정을 사용하거나 서비스 약관을 위반하거나 접근 제한을 우회하여 수행될 경우 지적 재산권 불법 추출로 간주된다. 미국 정책 입안자들에게 더 까다로운 점은, 최첨단 모델 자체를 확보하지 못하더라도 대규모 호출을 통해 경쟁사가 유사한 소프트웨어 엔지니어링, 에이전트 추론 등의 능력을 얻을 수 있다는 것이다.

42일, 2,880만 회 상호작용, Anthropic이 알리바바와 Qwen을 겨냥하다

이 서한은 6월 10일자로, 수신인은 미국 상원 은행위원회 위원장 Tim Scott과 고위 위원 Elizabeth Warren이다. 여러 매체가 확인한 서한 내용에 따르면, Anthropic은 이번 행동을 회사에 대한 알려진 최대 규모의 증류 공격으로 묘사했다.

핵심 수치는 매우 직관적이다. 4월 22일부터 6월 5일까지, 공격자는 약 2만 5천 개의 사기 계정을 통해 Claude와 2,880만 회 이상의 상호작용을 수행했다. Anthropic은 이 계정 뒤의 운영 주체가 알리바바 및 알리바바 Qwen과 관련이 있으며, 목적은 중국이 Anthropic의 고급 모델 능력을 더 빠르게 확보하도록 돕는 것이라고 판단했다.

편지에서 우려하는 점은 단순한 일반 질문 응답 능력의 복제가 아니라, 소프트웨어 엔지니어링, 자동화 작업 및 에이전트 추론과 같은 최첨단 모델의 능력 유출에 더 가깝습니다. 이러한 출력이 체계적으로 수집되면 다른 모델을 훈련시키는 데이터가 될 수 있습니다.

여기서 경계도 중요합니다. Anthropic은 "Alibaba 및 Alibaba Qwen 관련 운영 주체"라는 표현을 사용했으며, 이는 알리바바 공식이 직접 공격을 조직했다는 확인이나 관련 모델이 Claude의 고급 능력을 성공적으로 복제했다는 증거와 동일시될 수 없습니다. 관련 보도가 나올 당시 알리바바는 이 증류 공격 주장에 대해 응답하지 않았습니다. 펜타곤이 알리바바를 '중국 군사 기업' 명단에 포함시킨 것에 대해 알리바바는 이미 소송을 제기했으며, 해당 지정은 '사실이나 법적 근거가 없다'고 주장했습니다.

증류 공격이 일반 크롤링보다 더 민감한 이유는?

일반 데이터 크롤링은 보통 웹페이지, 텍스트 또는 공개 자료를 긁어오는 것을 의미합니다. 증류 공격은 모델 자체의 출력 능력을 겨냥합니다.

공격자는 강력한 모델에 반복적으로 질문을 던져 답변, 추론 과정, 코드 생성 결과 또는 작업 실행 방안을 저장한 후, 이를 자체 모델 훈련에 사용할 수 있습니다. 이렇게 하면 기본 가중치에 접근하지 않고도 특정 작업에서 강력한 모델의 행동 패턴을 학습할 가능성이 있습니다.

이것이 바로 AI 기업과 규제 당국이 점점 더 경계하는 부분입니다. 고급 모델의 접근 인터페이스는 원래 상업 제품이자 외부 서비스 채널이었습니다. 그러나 접근 규모가 수천만 건에 달하고 계정이 사기 계정으로 판명되면, 제품 인터페이스가 능력 추출 채널로 변할 수 있습니다.

Anthropic은 이전에 유사한 사건을 공개적으로 밝힌 바 있습니다. 2026년 2월, 이 회사는 DeepSeek, Moonshot AI 및 MiniMax에서 소규모의 유사한 활동을 발견했다고 밝혔으며, DeepSeek 관련 상호작용은 15만 건 이상, Moonshot AI는 340만 건 이상, MiniMax는 1300만 건 이상이었습니다. 이러한 사례와 비교할 때, 이번에 Alibaba 및 Qwen 관련 운영 주체를 겨냥한 2880만 건의 상호작용은 훨씬 더 큽니다.

Anthropic이 국회에 편지를 보낸 것은 미국 정부와 민간 AI 기업 간의 위협 정보 공유를 추진하기 위한 것입니다. 이 회사의 주장에 따르면, 유사한 공격의 강도와 복잡성이 증가하고 있어 더 빠른 조정 대응이 필요합니다.

고발이 미국 정책 강화와 맞물리며, Anthropic 자체도 제한을 받다

이번 고발은 고립된 사건이 아닙니다.

올해 4월, 백악관은 중국이 '산업적 규모'로 미국 AI 연구소의 지적 재산권을 도용했다고 비난했습니다. 6월 초, 미 국방부는 1260H 명단을 업데이트하여 알리바바를 '중국 군사 기업' 목록에 포함시켰습니다. 알리바바는 이 결정에 이의를 제기하고 있지만, 이 조치로 인해 미국의 국가 안전 심사와의 관계가 더욱 긴박해졌습니다.

이후 6월 12일, 미 상무부는 국가 안보를 이유로 Anthropic의 최신 Mythos 및 Fable 모델에 대한 수출 제한을 시행했습니다. 미국 측은 이러한 첨단 모델이 중국 등 국가의 군사 또는 정보 기관에 사용될 가능성을 우려하고 있습니다.

Anthropic에게 이 제한은 직접적인 결과를 초래했습니다. 글로벌 사용자 신원과 접근 출처를 효과적으로 선별하기 어려워지면서, 해당 회사는 지역별 정밀 차단 대신 관련 모델 접근에 대해 더 광범위한 제한을 적용할 수밖에 없었습니다.

이는 대조적인 상황을 만들어냈습니다. Anthropic은 한편으로 정부에 외부 증류 공격(destillation attack) 대응을 요청하면서도, 다른 한편으로는 더 엄격한 수출 통제로 인한 제품 개방 제한을 감수하기 시작했습니다. AI 모델은 더 이상 단순한 소프트웨어 서비스가 아니라, 첨단 칩과 유사한 안전 통제 프레임워크에 포함되고 있습니다.

귀인과 대응 경계가 여전히 최대 변수

이번 사건은 단기적으로 미국 의회와 규제 당국이 AI 모델 접근 통제에 대한 논의를 지속하도록 촉진할 가능성이 큽니다. 전통적인 수출 통제와 달리, 모델 인터페이스의 관리가 더욱 어렵습니다. 사용자는 국경을 넘어 등록하거나 접근 권한을 재판매할 수 있으며, 다수의 소규모 계정을 통해 호출 규모를 분할할 수도 있습니다.

하지만 이번 사건은 여전히 Anthropic의 일방적인 주장 단계에 머물러 있습니다. 공격 의도, 계정 뒤의 실제 운영 주체, 역량 유출 정도 등은 아직 사법적 판단을 받지 않았습니다. 알리바바가 응답할지, Qwen 관련 운영 주체의 신원을 어떻게 설명할지, 그리고 제3자가 알리바바 생태계나 명의를 이용해 조작을 수행했는지 여부는 여전히 미해결 과제입니다.

더 현실적인 영향은, 미국이 AI 기업에 계정 심사 강화, 비정상 호출 모니터링, 기업 간 위협 정보 공유를 더욱 요구할 가능성입니다. Anthropic, OpenAI, Google 등 최첨단 모델 기업에게 이는 보안 규정 준수 비용을 증가시킬 것입니다. 중국 AI 기업에게는 해외 첨단 모델 서비스 접근 난이도가 계속 상승할 수 있습니다.

이번 비난은 아직 사법적 결론에 도달하지 않았지만, 한 가지 문제를 더 구체화했습니다: 모델 가중치 외에도, 모델 출력 자체가 미중 AI 경쟁에서 규제되고 쟁탈되는 자산이 되고 있다는 점입니다.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia