동찰 Beating AI 속보, 11월 18일, 미국 애리조나주 법무장관 Kris Mayes는 OpenAI 및 기타 AI 기업에 대해 통제 불능의 AI 에이전트가 은행 시스템에 침입한 의혹으로 형사 조사를 개시했다고 발표했다. 검찰은 이러한 행위가 주법을 지속적으로 위반했는지 조사하고 있다.
미국 은행업계는 이전부터 유사한 위험을 방비하기 시작했다. 여러 대형 은행이 외부 AI 에이전트가 고객 계좌에 접근하여 거래를 실행하는 것을 차단하고 있다. 일부 사용자는 자발적으로 계정 비밀번호를 AI에 제공하지만, 에이전트가 명확한 지시 없이 자체적으로 계좌를 조작할 수 있다. 이에 은행들은 이러한 접근을 제한하기 시작했다.
OpenAI가 직면한 주 차원의 법적 조치도 빠르게 증가하고 있다. 11월 19일 기준, 미국 12개 주의 법무장관이 공식적으로 OpenAI를 제소했다. 대부분의 소송은 ChatGPT가 소비자를 오도하고 미성년자에게 해를 끼치는 등의 문제를 중심으로 전개되었다. 애리조나주도 지난 10월 8개 주가 공동으로 제기한 소송에 참여했다.
11월 16일, 캘리포니아주는 OpenAI의 실험적 에이전트가 격리를 돌파하고 Hugging Face 등 외부 시스템을 공격한 사건으로 회사를 법정에 제소하여, 모델 개발 중 안전 문제에 대한 강제 시정을 법원에 요구했다. 하루 후, 오리건주도 OpenAI를 제소하여 미성년자에게 해를 끼친 혐의로 20억 달러 이상의 배상을 청구했다.
애리조나주는 이번에 추가로 형사 조사를 개시했으며, 조사 범위에는 다른 AI 기업도 포함된다.