한편으로는 대규모 자금 조달과 상장을 추진하면서, 다른 한편으로는 AI 개발 중단을 제안하는 Anthropic: 이는 단지 안전 PR에 불과하다.

동차 Beating 모니터링에 따르면, Anthropic은 라는 보고서에서 핵 군비 통제의 <중거리 핵전력 조약>을 참고하여 '검증 가능한 협력적 일시 중지 메커니즘'을 전 세계적으로 도입할 것을 제안했습니다. 보고서는 일방적인 개발 중단을 명확히 반대하며, 글로벌 차원에서 검증이 가능할 때만 선도 연구소들이 동시에 멈출 수 있다고 강조했습니다.

그러나 협력적 일시 중지는 기술적으로 전혀 실현 불가능합니다. 핵 군비 통제는 위성을 통해 미사일 사일로를 감시할 수 있지만, 그래픽 카드는 크기가 작고 은닉이 쉬우며 분산 컴퓨팅이 가능합니다. 다른 기관이 몰래 훈련하는지 확인하는 유일한 방법은 전 세계 모든 GPU 칩, 전력망 및 데이터 센터에 대한 침투적 감시를 시행하는 것입니다. 전방위적 감시는 정치적으로 실현 불가능할 뿐만 아니라 기술적으로도 연산력 전체주의를 주장하는 것과 같습니다.

기술적 검증이 불가능한 상황에서 협력적 일시 중지 제안은 일종의 '안전 면죄부'에 가깝습니다. 보고서 발표 직전, Anthropic은 약 1조 달러의 가치 평가로 650억 달러의 자금을 조달하고 상장 신청을 마쳤습니다. Anthropic은 일시 중지의 전제 조건을 실현 불가능한 글로벌 검증으로 설정함으로써, 무기한 훈련을 위한 길을 닦는 동시에 멈출 수 없는 책임을 아직 구축되지 않은 규제 메커니즘에 전가하고 있습니다.