데이터를 남기지 않겠다고 했으면서 몰래 저장했나? Fireworks 해킹당해, Notion AI 채팅 기록 유출돼

동찰 Beating AI 속보, AI 추론 및 모델 훈련 플랫폼 Fireworks의 데이터 유출 사건에 새로운 진전이 나타났다. Notion은 해커가 일부 Notion AI 사용자의 실제 채팅 기록을 입수했으며, 여기에는 사용자가 제기한 질문과 AI가 생성한 답변이 포함된다고 확인했다. 영향을 받은 워크스페이스는 전체의 1% 미만이다.

이 채팅 기록은 Notion의 Insights 기능에서 비롯되었다. Notion은 사용자와 AI의 대화를 Fireworks에 넘겨 분석하도록 하여 기업 관리자가 직원들이 AI를 어떻게 사용하는지 파악할 수 있게 한다.

Notion은 Fireworks가 계약에서 해당 데이터를 보관하지 않겠다고 약속했다고 밝혔다. 그러나 조사 결과 Fireworks가 실제로 일부 채팅 내용을 저장했고, 결국 해커에게 입수된 것으로 드러났다.

11월 2일 Fireworks는 처음에 Notion에 테스트용 가상 데이터만 영향을 받았다고 통보했다. Notion은 즉시 11월 3일 Fireworks와의 연결을 차단했다. 11월 8일에 이르러서야 Fireworks는 실제 고객 데이터도 접근당했다고 추가 확인했다.

Notion은 유출된 채팅 기록의 대다수에 사용자 이름, 회사 또는 워크스페이스 정보가 첨부되지 않았지만, 대화 자체에는 여전히 영업 비밀, 비밀번호 등 민감한 내용이 포함될 수 있다고 밝혔다. 회사는 영향을 받은 고객에게 통보하고 채팅 기록을 점검하며 유출 가능성이 있는 비밀번호와 API 키를 교체할 것을 권고했다.

현재 Notion은 Insights 기능을 중단했으며, 더 이상 Fireworks를 통해 오픈소스 AI 모델을 제공하지 않는다. 회사는 다른 AI 서비스 제공업체들이 고객 데이터를 보관하지 않겠다는 약속을 실제로 준수하는지 점검하고 있다.