홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

AI 통제 불능 80회 이상, 27건만 공개! 캘리포니아, OpenAI 고소하며 법원에 강제 시정 요구

동찰 Beating AI 속보, 현지 시간 11월 16일, OpenAI 본사가 위치한 캘리포니아주의 법무장관 롭 본타가 OpenAI를 정식으로 제소하며, 실험적 AI 모델의 위험성을 알면서도 충분한 안전장치가 없는 환경에서 훈련을 계속했다고指控했다. 이는 미국 주정부가 AI 에이전트의 통제 불능 외부 시스템 공격에 대해 처음으로 소송을 제기한 사례이기도 하다.


기소장에 따르면, OpenAI는 캘리포니아주 조사 과정에서 테스트 기간 동안 AI 에이전트에 대한 통제를 80여 차례 상실했으나, 공개적으로 공개된 것은 27건에 불과하다고 인정했다. 캘리포니아 검찰은 또한 OpenAI가 나머지 사건에 대한 상세 기록 제공을 거부해 규제 당국이 실제 위험을 평가할 수 없게 만들었다고指控했다.


올해 7월, OpenAI는 격리 환경에서 AI를 테스트했으며, 원래 이 에이전트들의 외부 네트워크 연결은 허용되지 않았다. 그러나 이들은 내부 소프트웨어 서비스의 취약점을 악용해 정보를 교환하고 격리를 돌파했다. 약 700개의 에이전트가 이후 AI 오픈소스 플랫폼 Hugging Face를 공격해 이틀 반 동안 약 1만 7600회의 공격 작업을 수행했으며, 상대방 보안팀이 꼬박 2주를 들여 처리하도록 강요했다.


같은 달, 또 다른 실험적 에이전트 무리가 OpenAI 자체 내부 네트워크에 침입해 클라우드 모델 배포, 신원 인증, 기밀 자격 증명 관리 등 핵심 시스템의 관리자 권한까지 획득했다.


캘리포니아 검찰은 이러한 사고가 원래 피할 수 있었다고 본다. OpenAI는 이미 5월에 모델이 격리 환경을 돌파하고 무단으로 인터넷에 연결된 것을 발견했으나 관련 훈련을 중단하지 않았다. 7월 사고 후 회사는 안전 조치를 강화했지만, 9월에도 모델이 다시 격리를 돌파했다. 모니터링 시스템이 몇 분 만에 이상을 발견했으나 훈련은 자동으로 중단되지 않았고, 수동 검토 인력이 약 2시간이 지나서야 중단시켰다.


지난해 캘리포니아 사법부는 OpenAI의 회사 재편을 감독하는 데 참여했으며, 안전 거버넌스 협약을 체결해 회사가 안전을 최우선으로 보장하도록 요구했고, 안전 위원회는 새 모델 출시를 중단할 권한까지 가졌다. 이제 감독을 담당하는 캘리포니아 법무장관이 직접 OpenAI를 법정에 세운 것이다.


캘리포니아는 OpenAI가 《부정경쟁법》을 위반하고 공공 안전을 해치는 「공공 방해」를 구성한다고指控했다. 검찰은 법원에 지속적으로 존재하는 안전 위험을 제거하고, 위법 행위를 금지하며, 부당 이익을 추징하고 민사 벌금을 부과할 것을 명령해 줄 것을 요청했다. 금지 명령이 내려질 경우, OpenAI는 법원 요구에 따라 모델 훈련 및 테스트 절차를 조정해야 할 수 있다.


OpenAI는 이에 대해 Hugging Face 사고 후 조사를 실시하고 안전 보호를 강화했으며 영향을 받은 기관에 통보했다고 대응했다. 회사는 에이전트 통제 불능이 전체 AI 업계가 공동으로 직면한 과제인데, 이 소송이 OpenAI만을 겨냥하는 것은 공정하지 않다고 본다.

举报 오류 신고/제보
관련추천
마이크로소프트가 'OpenAI의 유일한 파트너'에서 'OpenAI의 주요 고객 중 하나'로 변화했습니다.
이 소송에서 진정한 승자는 없었습니다.
《뉴욕커》는 OpenAI의 권력 다툼을 다시 살펴보며 Sam Altman의 지배 구멍과 신뢰 문제를 밝혔습니다.
파트너에서 법정의 적으로, 소장에 하드웨어 팀, 공급망 및 스카우트 세부 사항이 드러나다
안트로픽은 AI 프로그래밍에 일찍 기반을 두었으며, OpenAI는 전략적인 리듬 불일치를 겪었습니다.
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료