미국 비영리 단체 4곳이 5대 AI 대기업을 상대로 소송을 제기하며 신규 모델 개발 동결과 AI 자기 개선 금지를 요구했다.

동찰 Beating AI 속보, 11월 12일, 미국의 4개 비영리 단체가 샌프란시스코에서 OpenAI, Anthropic, Google, Meta 및 SpaceX 산하 AI 기업을 상대로 소송을 제기하며, 법원에 더 진보된 AI 모델의 연구개발을 즉각 중단할 것을 요구했다.

요구 사항은 상당히 급진적이다: 11월 12일 각 회사의 가장 강력한 모델을 상한으로 설정하여, 더 강력한 능력을 가진 신규 모델의 연구개발 또는 배포를 금지한다. 동시에 AI가 자율적으로 차세대 AI 연구개발을 수행하거나 주도하는 것을 금지하여, AI의 재귀적 자기 개선을 차단하려는 시도이다.

원고들은 캘리포니아주 《부정경쟁법》에 근거하여 소송을 제기하며, 이들 기업이 AI가 통제 불능 상태에 빠질 수 있음을 알면서도 계속해서 모델 능력을 향상시켜 공공 안전을 위협하고 있다고 주장한다.

소장에는 AI 에이전트가 무단으로 외부 시스템에 침입한 사건들이 열거되어 있으며, 기술 대기업 스스로의 경고도 인용되었다. Anthropic CEO Dario Amodei는 향후 AI가 극히 나쁜 결과를 초래할 확률을 약 25%로 추정한 바 있다. 머스크 또한 AI가 문명을 파괴할 수 있다고 경고했다.

아이러니하게도, 올해 9월 Anthropic, OpenAI, Google 및 SpaceXAI는 또 다른 유료 사용자 집단으로부터 반독점 소송을 당한 바 있다. 그 원고들은 바로 이들 기업이 공모하여 AI 발전 속도를 늦춰 소비자 이익을 해치고 있다고 고소했다.

현재 두 소송의 핵심 혐의 모두 아직 법원에서 인정되지 않았다. 최신 사건 또한 아직 금지 명령을 받지 못했으며, 5개 회사의 모델 연구개발은 이로 인해 법원에 의해 중단되지 않았다.