허깅 페이스가 앤스로픽 내부에 AI 안전 심사를 신청하다

동찰 Beating AI 속보, Hugging Face CEO Clement Delangue가 Open Alignment Initiative 설립을 발표했으며, 공동 창립자 Thomas Wolf가 주도하고, Anthropic이 방금 제안한 「임베디드 평가자」 프로그램에 공개적으로 참여 신청했다. 승인되면 Hugging Face의 평가자들이 장기 상주하며 직원급에 가까운 접근 권한을 얻어 모델 훈련과 안전 조치를 직접 점검할 수 있다.

Delangue는 AI 정렬이 소수 프런티어 연구소 내부에서만 해결되어서는 안 되며, 더 많은 외부 연구자들이 참여해야 한다고 말했다. Anthropic은 이미 제3자에게 이러한 권한을 개방하겠다고 약속했으며, 여기에는 좌석, 출입 권한, 회사 컴퓨터, 내부 리스크 팀에 가까운 도구가 포함되고, 평가 측이 독립적으로 결론을 공표하는 것도 허용된다.