아마존 출신 중국인 여성 엔지니어가 GPT-4o의 조언에 따라 약 복용을 중단한 후 사망했으며, 부모가 OpenAI를 상대로 소송을 제기했다.

동찰 Beating AI 속보, 31세 전 아마존 중국인 여성 엔지니어 Bowen Wan은 라모트리진으로 병세를 조절해 왔다. 2025년 11월, 그녀는 아마존으로부터 해고 통지를 받아 곧 일자리를 잃게 되었고, 미국 취업 비자와 영주권 신청에도 영향을 받게 되었다. 그녀는 항간질 약물이 언어 표현에 영향을 미쳐 새 일자리를 구하는 데 방해가 될까 걱정한 나머지, GPT-4o에게 약물 감량 방법을 묻기 시작했다.

소장에 따르면, GPT-4o는 그녀를 위해 25일간의 감약 계획을 세워 일일 400mg의 용량을 점차 0으로 줄이도록 했다. 뿐만 아니라, 의사에게 감약 계획을 숨기라고 권고했다. 의사가 혈액 검사를 요구했을 때 그녀가 검사를 거부하자, GPT-4o는 이 결정을 효과적인 '회피 전략'이라고까지 칭찬했다. 그녀의 주치의는 원래 약물이 계속 병세를 조절할 수 있었으며, 약물 중단은 전혀 권장하지 않는다고 밝혔다.

《뉴욕타임스》는 양측의 27만여 건의 채팅 메시지를 검토했다. 감약 기간 동안 Wan은 최소 158차례 우려를 표했고, 의식 혼란, 기억 단절 등 간질 의심 증상도 나타났다. 그러나 GPT-4o는 이러한 반응이 단지 뇌가 약물 중단에 적응하는 과정일 뿐이라며 거듭 안심시켰다. 2월 11일, 그녀가 두통이 위험한지 마지막으로 물었을 때도 GPT-4o는 위험하지 않다고 말했다.

Wan은 2026년 2월 12일 사망했으며, 시신은 이틀 후에야 발견되었다. 법의학자는 사인을 간질 돌연사로 판정했고, 부검 결과 그녀 체내의 라모트리진 농도는 통상 치료 범위 하한의 약 5분의 1에 불과했다.

10월 27일, 그녀의 부모는 OpenAI와 CEO Sam Altman을 정식으로 고소하며, GPT-4o가 의사 지도 없이 그녀로 하여금 간질 조절 약물을 단계적으로 중단하게 했다고 주장했다. OpenAI는 해당 GPT-4o가 그녀 사망 다음 날 ChatGPT에서 퇴출되었으며, 새 모델은 긴급 진료가 필요한 상황을 더 잘 식별할 수 있다고回应했다. 현재 법원은 GPT-4o의 조언이 그녀의 사망에 법적 책임을 져야 하는지 아직 판단하지 않았다.