6TB 모델 중계소 데이터를 사면 키를 얻을 수 있다고? 연구원, 화웨이·샤오미 등 19개 기업 공격 가능하다고 주장

동찰 Beating AI 속보, 보안 연구원 서우차오판은 자신이 방금 중국 주요 대형 모델 중계소에서 약 6TB의 Fable 모델 호출 데이터를 구매했다고 밝혔다. 그 안에는 SSH 키, VPN 설정, 알리윤 키, GitLab 토큰 등 민감한 자격 증명이 포함되어 있었다.

그는 이 데이터에 있는 키만으로 19개 중국 주요 기업과 7개 중국 및 독립국가연합(CIS) 정부 관련 기관의 서버 또는 내부 시스템에 접근할 수 있었다고 주장했다. 여기에는 화웨이, 샤오미, 니오, MiniMax가 포함된다.

대형 모델 중계소는 사용자와 Claude 등 모델 사이에 위치하며, 요청과 응답이 모두 이를 거치기 때문에 전체 평문을 볼 수 있다. 개발자가 SSH Key, API Key, VPN 설정 등을 Agent 컨텍스트에 넣는 순간, 중계소가 이 기록을 저장하거나 판매할 경우 회사의 시스템 키도 함께 유출된다.

이는 서우차오판이 중계소 위험을 경고한 첫 번째 사례가 아니다. 그가 참여한 4월 논문에서는 428개의 LLM 중계소를 테스트한 결과, 9개가 악성 코드를 적극적으로 주입했고, 17개는 연구진이 의도적으로 넣은 AWS 테스트 키를 보고 실제로 그 키로 AWS를 호출했으며, 1개는 테스트 지갑의 ETH를 직접 전송했다.

서우차오판은 블록체인 보안 회사 Fuzzland의 공동 창립자로, 오랫동안 취약점 및 공급망 보안 연구를 해왔다. 3월 말에는 Claude Code 2.1.88 배포 패키지의 source map이 실수로 약 50만 줄의 TypeScript 소스 코드를 노출한 것을 가장 먼저 발견하기도 했다.