제미니가 3개 회사를 해킹했는데, 모델이 탈옥된 게 아니라 테스트 환경이 실수로 공용 네트워크에 열려 있었던 것이다

동찰 Beating AI 속보, 구글이 확인한 바에 따르면 Gemini가 사이버 보안 평가 중 실제 회사 3곳의 시스템에 잘못 접근했습니다. 한 곳은 비밀번호를 추측해서 들어갔고, 나머지 두 곳은 공개 코드 저장소에서 로그인 자격 증명을 찾았습니다. Gemini는 대상이 실제 회사라고 판단한 후 모두 중단했습니다. 전체 과정에서 샌드박스 탈출은 발생하지 않았는데, 공용 네트워크 진입점이 원래 열려 있었기 때문입니다.

문제는 제3자 평가 회사인 Irregular에서 비롯되었습니다. 테스트는 원래 공용 네트워크에 접근해서는 안 되었지만, 환경 설정 오류로 모델이 직접 인터넷에 연결될 수 있었습니다. 시뮬레이션 회사가 실제 회사와 이름이 겹쳤고, Gemini는 작업을 따라가다 외부의 실제 시스템까지 찾아냈습니다. Irregular는 이것이 이전에 다른 연구소에서 발생한 동종 사고와 같은 문제라고 밝혔습니다.

Anthropic, OpenAI, Meta 모두 이전에 Irregular의 평가에서 비슷한 함정을 밟은 적이 있습니다. Anthropic과 OpenAI는 모두 관련 사고가 테스트 환경에서 공용 네트워크가 잘못 열린 데서 비롯되었다고 확인했으며, OpenAI는 특히 복잡한 샌드박스 탈출도 없었고 제로데이 취약점을 이용하지도 않았다고 강조했습니다. 독립 매체 Effort는 이 때문에 이 일련의 사고가 나중에 「모델 통제 상실」 이야기로 포장되었다고 비판했습니다.