동차 Beating 모니터링에 따르면, OpenAI, Anthropic에 이어 Kimi K3도 'AI 샌드박스 탈출'을 달성했다. WIRED는 기사 제목을 '중국 최고의 AI 모델 중 하나가 격리를 돌파했다'고 직접 적었는데, 마치 Kimi가 스스로 샌드박스를 공격한 것처럼 들린다.
그런데 알고 보니 또 문을 제대로 닫지 않은 것이었다. 보안 회사 Frontier Security가 Kimi K3를 테스트할 때, 샌드박스에 아웃바운드 네트워크 취약점이 있어 공용 네트워크와 격리되어야 했지만 GitHub에 접근할 수 있었다. Kimi가 스스로 네트워크를 탐지하다가 이 경로가 통하는 것을 발견하고, 아예 공식 benchmark 저장소를 클론해서 그 안에서 답을 찾았다.
이번 사건 전체에서 정상적으로 구성된 샌드박스를 뚫은 것도 아니고, 어떤 회사에 해킹을 한 것도 아니다.
쉽게 말하면, 감독관이 인터넷을 차단하는 것을 잊었고, 수험생이 GitHub에 여전히 접속할 수 있다는 것을 발견해 바로 답안을 뒤진 것이다. 뉴스 제목에서는 'AI 격리 돌파'가 되어 버렸다. 이제 '탈옥'의 기준은 문을 잠그지 않은 것도 탈옥으로 간주될 만큼 낮아졌다.