영국 노동당 의원이 xAI를 상대로 소송을 제기하며, Grok이 자신의 딥페이크 포르노 콘텐츠를 생성하는 데 사용되었다고 주장했습니다.

BlockBeats 뉴스, 6월 4일 - 영국 노동당 의원 Jess Asato가 영국 고등법원에 머스크 소속 인공지능 기업 xAI를 상대로 소송을 제기했습니다. Grok 챗봇이 본인과 관련된 딥페이크 음란물 및 성적 이미지 생성에 사용되었다는 이유에서입니다.

Asato는 올해 1월 Grok을 공개 비판한 이후, 일부 사용자가 이 모델을 이용해 자신이 비키니를 입은 가짜 이미지와 성폭행 장면이 포함된 조작 영상을 제작 및 유포했다고 밝혔습니다. 그녀는 이러한 콘텐츠 생성 능력이 단순한 오용이 아니라 xAI의 시스템 설계상 선택이라고 주장했습니다.

Asato는 이번 소송에서 <데이터 보호법>과 프라이버시 정보 남용 관련 법률을 근거로 삼았으며, 손해배상 청구 외에도 인공지능 기업이 모델 설계에 대해 법적 책임을 지도록 하는 선례를 만들고, 기술 기업들이 더 완벽한 안전 보호 메커니즘을 구축하도록 촉구하는 것을 목표로 하고 있습니다.

앞서 xAI는 외부 비판 이후 사용자가 Grok을 이용해 실제 인물의 성적 이미지를 생성하는 것을 금지하겠다고 밝힌 바 있습니다. 현재 영국에서는 당사자의 동의 없이 성인 딥페이크 콘텐츠를 제작하거나 생성 요청하는 행위가 이미 불법입니다.

---------------------------------

아래 원문 링크를 클릭하여 동차오 Beating · Feishu AI 뉴스 채널에 가입하시면, 7×24시간 중단 없이 글로벌 AI 핫이슈와 뉴스를 모니터링합니다.