안씨는 법원 문서에서 펜타곤에 배포된 AI 모델에 "종료 스위치"가 없다고 주장합니다.

최근 머신비전 채널의 모니터링에 따르면, Anthropic가 워싱턴 연방 대법원에 제출한 문서에 따르면, 해당 회사의 AI 모델이 펜타곤 환경에 배포되면 회사는 모델을 볼 수도 없고 기술적으로 조절하거나 중지할 방법도 없으며 "종료 스위치"가 없다고 주장했다. Anthropic은 동시에 펜타곤이 모델을 배포하기 전에 테스트할 기회가 있었다고 밝혔습니다.

이 문서는 Anthropic과 펜타곤 간의 "공급망 리스크" 라벨 분쟁의 최신 발전입니다. 올해 3월, 펜타곤은 Anthropic을 공급망 리스크로 지정했으며, 그 이유는 회사가 민감한 군사 작전에서 기술을 부적절하게 개입시키고 있다고 했습니다. 분쟁의 핵심 문제는 Anthropic의 사용 정책이 Claude를 자율 무기나 대규모 감시에 사용하는 것을 금지하고 있는데, 펜타곤은 이러한 조항이 "적폐"임을 주장했습니다.

현재 소송은 두 법원 사이에 갈렸습니다: 워싱턴 법원은 Anthropic이 공급망 리스크 라벨을 일시 중단하는 요청을 기각했지만, 캘리포니아 법원은承認했습니다. 실제 영향은 Anthropic이 새로운 펜타곤 계약에 참여할 수 없지만 다른 정부 기관에 서비스를 계속 제공할 수 있다는 점입니다. 한편, 트럼프 행정부는 연방 기관에 Anthropic의 새로운 모델 Mythos를 배포하기 위해 노력하고 있으며, 각 기관의 지도자들이 Mythos를 사용하여 네트워크 공격으로부터 방어하는 방법을 연구하고 있습니다. 이는 펜타곤이 Anthropic이 국가 안보에 위협을 미칠 수 있다는 주장과 상반됩니다. 다음 청문회는 5월 19일에 예정되어 있습니다.