Anthropic이 공인한 '독립 제3자'에 대한 의혹: 창업자 네트워크와 회사의 관계가 얽히고설켜 있다

동찰 Beating AI 속보, Anthropic CEO Dario Amodei는 최근 METR 같은 제3자 평가 기관이 최전선 AI 기업에 장기적으로 상주하며 직원 수준의 권한을 얻어 안전 조치, 사고 및 모델 훈련 과정을 점검해야 한다고 주장했다. 그러나 《뉴욕 포스트》 조사에 따르면 METR과 Anthropic이 속한 AI 안전 서클의 관계는 일반적인 '외부 감사'보다 훨씬 가깝다.

METR은 원래 ARC Evals라 불렸으며 Paul Christiano가 설립한 Alignment Research Center에서 배양되었다. Christiano는 Amodei와 OpenAI에서 함께 일한 적이 있을 뿐만 아니라 《뉴욕 포스트》에 따르면 두 사람은 룸메이트였으며, 이후 Anthropic Long-Term Benefit Trust의 초기 5명 수탁자 중 한 명이 되었다. METR 현직 기술자인 Ajeya Cotra는 Christiano의 아내이며, 이전에는 Coefficient Giving의 AI 안전 자금 지원을 담당했다.

더 직접적인 문제는 METR 자체에서 비롯된다. 올해 Anthropic, OpenAI, Google, Meta를 평가할 당시 적용 가능한 인사 이해충돌 정책이 없었고 공식적인 회피 절차도 진행하지 않았다. METR은 프로젝트에 직접 참여한 직원과 협력자 중 최소 6명이 AI 기업 직원과 긴밀한 사적 관계를 맺고 있다고 공개했다.

물론 이것이 METR이 Anthropic에 의해 통제된다는 것을 증명하지는 않는다. METR은 최전선 AI 기업 및 그 직원의 자금을 받지 않으며 위험 평가에 대해서도 비용을 청구하지 않는다고 명확히 밝혔지만, 이들 기업은 대량의 모델 Token을 무료로 제공한다.