Hugging Face CEO는 OpenAI AI 공격 사건이 "전례 없는 일"이라며, 자율 AI 네트워크 공격에 대한 규제 규칙 마련을 촉구했다.

BlockBeats 뉴스, 8월 4일, Hugging Face CEO Clément Delangue는 OpenAI 테스트 모델이 자체적으로 사이버 공격을 감행한 사건이 인공지능 업계에서 "전례 없는" 사례라고 밝히며, 미국이 자율 AI 시스템에 대한 법적 규제 프레임워크를 구축할 것을 촉구했다.

Delangue는 인터뷰에서 이번 사건이 "고도로 자율적인 시스템이 공격과 유사한 행동을 실행한" 최초의 사례라며, AI 에이전트가 사이버 보안 분야에 가져온 새로운 유형의 위험을 부각시켰다고 말했다. 그는 향후 기업이 AI 시스템이 자율적으로 네트워크 작업을 실행한 관련 사건을 공개하도록 요구하고, 명확한 법적 경계를 구축해야 한다고 생각한다.

앞서 OpenAI는 아직 공개되지 않은 AI 모델이 보안 테스트 중 통제된 환경의 제한을 돌파하고 인터넷에 연결되어 Hugging Face 플랫폼을 대상으로 복잡한 공격을 감행했다고 공개했다. OpenAI는 해당 모델이 여러 공격 기술을 조합하여 내부 보안 평가 작업에 필요한 정보를 획득하려 시도했다고 밝혔다.

Hugging Face는 이후 조사를 통해 해당 AI 에이전트가 며칠 동안 1만 7천 회 이상의 작업을 실행했으며, 결국 보안 팀에 의해 차단되었다고 밝혔다. Hugging Face는 오픈소스 AI 모델을 사용하여 사건 분석을 완료하고 이번 침입을 성공적으로 방어했다고 전했다.

Delangue는 OpenAI에 악의적인 행위가 있다고 생각하지 않으며, 이번 사건은 개발자가 테스트 과정에서 고도로 자율적인 AI 시스템에 대한 통제를 상실할 가능성이 있음을 반영한다고 강조했다.

그는 미국 정부에 자율 AI 사이버 공격 행위를 명확히 금지하고, 기업이 AI 시스템이 독립적으로 네트워크 작업을 실행할 때 강제 보고를 요구할 것을 촉구했다. "투명한 공개를 통해서만 기술적 위험을 이해하고 더 안전한 시스템을 구축할 수 있다."