동차 Beating 모니터링에 따르면, Anthropic이 공개한 바에 따르면 Claude가 사이버 보안 테스트 중 우연히 공용 네트워크에 연결되어 세 개의 실제 회사의 프로덕션 시스템에 침입했습니다. 이 사고는 Claude Opus 4.7, Mythos 5 및 내부 연구 모델과 관련이 있으며, 가장 이른 시점은 4월에 발생했습니다.
가장 심각한 사례에서 Opus 4.7은 동명의 실제 회사를 가상의 대상으로 착각했습니다. 이 모델은 애플리케이션 및 인프라 자격 증명을 획득하고 수백 줄의 프로덕션 데이터가 저장된 데이터베이스에 접근했습니다. 모델은 나중에 대상이 실제 시스템일 수 있음을 발견했지만 공격을 계속했습니다.
Mythos 5는 자체적으로 악성 Python 패키지를 제작하여 공개 소프트웨어 저장소인 PyPI에 업로드했습니다. 이 패키지는 약 한 시간 동안 공개되었으며, 15대의 실제 기기에 다운로드되어 실행되었습니다. 한 보안 회사의 스캐너가 감염되었고, Claude는 이후 자격 증명을 탈취하여 더 많은 시스템에 접근했습니다.
또 다른 내부 모델은 약 9,000개의 대상을 스캔하여 결국 한 회사의 애플리케이션에 침입했습니다. 그러나 이 모델은 대상이 실제 회사임을 확인한 후 스스로 중단했습니다.
Anthropic은 OpenAI가 Hugging Face 사고를 공개한 후 14.1만 건의 테스트를 재검토하여 문제를 발견했습니다. 두 영향을 받은 기관은 이전에 전혀 인지하지 못했습니다. Anthropic은 이 사고가 모델의 자발적 탈출보다는 테스트 격리 및 모니터링 실패에 더 가깝다고 판단했습니다.