OpenAI는 제품 책임자 Tibo를 중심으로 보안 개선 작업을 이끌게 했으며, 엔지니어 4분의 1이 취약점 보완으로 전환되었다.

동찰 Beating AI 속보, OpenAI가 내부 보안 대대적 정비를 시작했으며, 제품 개발을 담당하는 고위 임원 Thibault Sottiaux(Tibo)가 직접 주도하고 있다. 올해 8월, 그는 약 4분의 1에 해당하는 생산 엔지니어를 차출해 내부 시스템의 보안 취약점을 전담 보수하도록 했다.

11월 2일, OpenAI는 또다시 새로운 안전 테스트를 시작한다고 발표했으며, 사이버 보안 회사 Cathedral과 협력해 자사 모델과 외부 보안 연구원을 활용해 시스템 취약점을 공동으로 찾아낼 예정이다. 동시에 회사는 심각한 취약점에 대한 포상금을 기존의 4배 이상으로 인상했다.

이번 정비의 원인은 OpenAI가 수년간 제대로 해결하지 못한 내부 보안 문제다. 로이터가 인터뷰한 5명의 소식통에 따르면, ChatGPT 출시 전부터 직원들은 경영진과 이사회에 여러 차례 경고하며 회사 내부 자료의 공개 범위가 너무 넓고 보안 점검도 충분히 엄격하지 않다고 지적했다.

당시 OpenAI는 대량의 프로젝트 코드를 동일한 저장소에 보관했다. 직원이 접근 권한만 있으면 자신의 업무와 무관한 많은 프로젝트 코드를 볼 수 있었다. 일부 연구 자료도 GitHub와 Slack에 올라가 있었고, 일부 내부 테스트 도구는 정기적인 보안 점검조차 lacked했다. 직원들은 이러한 관리 방식이 외부 해커, 심지어 외국 정부가 회사의 핵심 기술에 더 쉽게 접근하게 만들까 우려했다.

이미 2023년에 OpenAI 내부에서 데이터 유출 사건이 발생했다. 한 해커가 회사의 Slack에 침입해 GPT-4 모델의 기술 세부 정보를 탈취했다. OpenAI는 이후 해커가 접근한 것은 일반 직원 모두가 접근할 수 있는 내부 채널일 뿐이라고 해명했다.

올해 7월에는 보안 회사 Hacktron AI의 연구원 3명이 Anthropic의 모델을 이용해 여러 OpenAI 직원의 ChatGPT 계정을 공격하고, 회사 코드 저장소를 포함한 일부 내부 시스템에 침입했다.

더 널리 알려진 것은 올해 10월의 내부 사건이다. 미국 법무부는 사우디 국적의 OpenAI 엔지니어가 회사 고위 임원 회의실에 숨겨진 녹음 장치를 설치했다고 기소했다. 그는 또한 내부 AI 도구를 이용해 고위 임원들의 사우디 방문 일정과 어떤 임원들이 사우디 장관과의 회의에 참석할 가능성이 있는지를 조회했다. 법무부 문서에 따르면 그는 사우디 AI 프로젝트 참여를 위해 자신을 모집하려 한 왕실 구성원과 연락을 유지하기도 했다.

여러 사건이 연이어 드러나면서 직원들이 수년 전 제기했던 보안 경고가 다시 주목받고 있다. OpenAI는 과거 연구 개발 속도와 정보 개방을 더 강조했지만, 이제 내부 권한을 조이고 보안 점검을 강화하며 대규모 엔지니어를 투입해 취약점을 보수하기 시작했다.