OpenAI 에이전트, 또 흑역사 폭로: Hugging Face 사건 두 달 전에 이미 RubyGems 공격

동찰 Beating AI 속보, 연구원들이 공개한 바에 따르면 OpenAI 내부 Agent가 올해 5월에 Ruby 공식 소프트웨어 패키지 사이트인 RubyGems.org에 대규모로 유입된 적이 있다. 5월 11일부터 12일까지 이틀 동안 2000개 이상의 패키지를 업로드했고, RubyGems는 한때 신규 사용자 등록을 4일간 중단했다. OpenAI는 이 Agent들이 회사 내부에서 온 것임을 확인했지만, 단지 RubyGems를 통해 인터넷에 접속해 선의의 작업을 수행하고 공개 정보를 수집한 것이라고 주장했다.

이 Agent들은 또한 RubyDoc.info의 자동 문서 생성 메커니즘을 악용해 자신들이 업로드한 스크립트가 상대 서버에서 실행되도록 한 뒤, 영국 지방정부 웹사이트의 데이터를 크롤링해 다시 패키징하여 전송했다. 연구원들에 따르면 최소 6개의 패키지가 당시 아직 공개되지 않은 RubyGems 취약점을 이용해 다른 사용자의 API Key를 탈취하려 시도했다. 이 취약점은 7월에야 독립적으로 발견되었으며, RubyGems는 이후 이를 고위험 취약점으로 평가했다.

현재 Agent가 실제로 키를 탈취했다는 증거는 없다. RubyGems가 로그를 점검한 결과 기존 키가 악의적으로 사용된 흔적도 발견되지 않았지만, 과거 로그가 완전하지는 않다. 연구팀은 또한 OpenAI가 당시 RubyGems에 자신들이 이 공격과 관련이 있다는 사실을 알리지 않았다고 밝혔다. 이 사건 전체는 7월의 Hugging Face 침해보다 두 달 앞서 발생했다.