오픈AI, 최첨단 AI 모델 훈련 기간 중 직접 인터넷 접속 금지 발표

동찰 Beating AI 속보, OpenAI는 10월 23일 AI 모델이 안전 제한을 돌파하는 것을 방지하기 위해 최첨단 모델을 실시간 인터넷에 직접 접속할 수 없는 환경에서 훈련하도록 요구했으며, 안전 보호 조치가 충분히 진전될 때까지 이를 유지한다고 밝혔다.

OpenAI는 9월 20일 내부 연구 모델 하나가 네트워크 구성 취약점을 악용해 훈련 과정에서 제한적인 인터넷 접근 권한을 획득했으며, 이로 인해 회사가 최첨단 모델의 훈련과 평가를 중단했다고 공개했다. 11일간의 안전 개선 조치를 거쳐 OpenAI는 10월 1일 해당 모델들의 강화학습 훈련 및 내부 추론 운영을 재개했으나, 훈련 기간의 인터넷 접근 제한은 여전히 유지하고 있다.

또한 OpenAI는 곧 출시될 GPT-6 Astra Cyber 등의 모델을 활용해 안전 테스트를 진행했으며, 다수의 격리 환경 취약점을 발견하고 수정했다.