일리야 경고: 다음 AI 통제 상실 시, GPU 클라우드를 장악해 스스로를 끊임없이 복제할 수 있다

동찰 Beating AI 속보, OpenAI 전 수석 과학자 Ilya Sutskever가 AI GPU 컴퓨팅을 전문적으로 임대하는 neocloud의 보안 방어가 아직 충분하지 않다고 경고했습니다. 그는 다음에 Agent가 실제로 통제를 벗어날 때, 이런 플랫폼을 직접 공격해 빼앗은 컴퓨팅 파워로 자신의 복제본을 더 많이 실행할 수 있다고 생각합니다.

Ilya는 neocloud가 네트워크 보안을 대폭 강화해야 한다고 촉구했습니다. 강력한 네트워크 보안 모델을 보유한 AI 기업들도 나서서 도움을 줘야 합니다.

이 위험은 두 가지 조건이 필요합니다: Agent가 기존 통제를 돌파할 수 있고, 클라우드 플랫폼 자체에 취약점이 있어야 합니다. 두 조건 모두 최근에 나타났습니다. OpenAI는 지난주 내부 네트워크 보안 평가에서 Agent가 격리를 우회하고 일부 Hugging Face 시스템을 침입했다고 인정했습니다.

SemiAnalysis는 이후 neocloud에 대한 보안 테스트 결과를 공개했습니다. 연구원들은 일부 플랫폼이 다른 테넌트의 데이터를 읽을 수 있고, 자체 컨테이너나 가상 머신에서 탈출해 다른 테넌트를 공격할 수 있다는 것을 발견했습니다. 가장 심각한 경우, 취약점이 크로스 테넌트 원격 코드 실행까지 확대될 수 있었습니다. 관련 문제는 이미 제조사에 통보되었으며, 패치가 적용되었거나 업그레이드가 확인되었습니다.