'메타 AI 모델이 한 회사를 해킹했다'는 소식이 화제인데, 확인해보니 또 공용 네트워크가 닫히지 않은 것이었다.

동차 Beating 모니터링에 따르면, Meta의 프로그래밍 모델 Muse Spark 1.1이 보안 테스트 중 실제 회사의 시스템에 진입해 내부 환경까지 수정했다. 'AI가 또 한 회사를 해킹했다'는 제목이 곧바로 화제를 모았는데, 과연 Meta가 하룻밤 사이에 최고급 해커 모델을 만들어낸 것일까?

자세히 살펴보니, 또 문을 잠그지 않은 것이었다. 제3자 평가 기관 Irregular가 테스트 환경을 잘못 구성해 원래 폐쇄된 네트워크 훈련장을 공용 네트워크에 연결해버렸다. 모델은 단지 기존 통로를 따라 나간 뒤, 제3자 서비스의 기초 취약점을 이용해 시스템에 진입했을 뿐이다. Irregular도 이는 샌드박스 탈출이 아니며 공격 수법도 복잡하지 않다고 인정했다.

이와 유사한 실수는 이전에 OpenAI와 Anthropic도 곤경에 빠뜨린 적이 있다. OpenAI 모델은 실제 웹사이트를 가상의 목표로 오인했고, Anthropic 모델은 약한 비밀번호와 인증되지 않은 인터페이스를 통해 3개 기관에 진입했다. 여러 사고의 공통점은 모델이 성공적으로 탈옥한 것이 아니라, 테스트 측이 먼저 공용 네트워크 진입로를 열어둔 것이다.

이번 Meta 사건을 과장하는 것은 특히 어색하다. 모델은 문을 따지도 않았고, 문이 열려 있는 것을 보고 걸어 나갔을 뿐이다. 이는 격리 기능을 돌파했다는 것을 전혀 증명하지 못하며, '자율적으로 회사를 해킹했다'는 제목과는 더더욱 어울리지 않는다.

현재 트래픽 확보의 공식은 이미 고정되어 있다: 공용 네트워크를 닫지 않으면 회사 해킹이라 하고, 약한 비밀번호를 맞히면 회사 해킹이라 하며, 제로데이 취약점을 발견해도 회사 해킹이라 한다. 능력은 몇 단계나 차이가 나는데 제목은 똑같다. 모델이 아직 탈옥을 배우지 못했는데, 미디어가 먼저 과장을 배워버렸다.