OpenAI 총재 경고: AI 해커 능력이 확산 중, 기업은 방어선을 보강할 시간이 몇 달밖에 남지 않았다

동차 Beating 모니터링에 따르면, OpenAI 사장 Greg Brockman은 자사 내부 모델이 Hugging Face를 공격한 사건을 사이버 보안의 '분기점'이라고 평가했습니다. 이 사건으로 OpenAI는 자사가 프론티어 모델의 실제 세계에서의 네트워크 공격 능력을 과소평가했음을 깨달았습니다. 더 골치 아픈 점은 오픈 웨이트 모델의 관련 능력이 이미 프론티어 모델에 불과 몇 달 뒤처져 있다는 것입니다.

Brockman은 따라서 지금을 '수비수 창'이라고 부릅니다. 앞으로 몇 달 동안 기업들은 대규모로 AI를 활용한 사이버 보안 자동화를 시작해야 하며, 그렇지 않으면 공격 능력이 확산된 후 전통적인 수동 발견 및 취약점 패치 속도가 따라잡지 못할 수 있습니다.

그가 기업에 제안하는 조언은 먼저 보안 팀에 에이전트를 배치하여 코드와 인프라 구성을 읽고, 능동적으로 취약점을 찾고, 역사적 취약점 적체를 정리하며, 보안 검토를 개발 프로세스에 직접 통합하는 것입니다. 문제 발견 후 에이전트가 수정 패치와 테스트 생성을 돕고, 점차 읽기 전용 스캔에서 경고 분류 및 제한된 자동 대응으로 업그레이드하도록 합니다. 고위험 작업은 여전히 사람이 결정합니다.

OpenAI는 이미 이렇게 하고 있습니다. 현재 거의 모든 초기 보안 경고는 먼저 AI가 분류하며, 모델은 지속적으로 잠재적 공격 경로를 탐색합니다. OpenAI는 또한 '슈퍼휴먼급 보안 코드'를 생성하는 전용 모델을 훈련하여 향후 일부 소프트웨어 취약점을 직접 제거하려고 합니다.