'몸을 판다'는 구글에 윤리 위원회를 먼저 요구했고, 12년 후 하사비스는 AGI에 마지막 안전장치를 더하려 한다.

동차 Beating 모니터링에 따르면, 2014년 DeepMind가 구글에 매각될 당시 하사비스가 제시한 조건 중 하나는 독립적인 AI 윤리 위원회를 설립하는 것이었다. 12년이 지난 지금, 그는 여전히 같은 문제를 고민하고 있지만, 이번에 규율하려는 대상은 DeepMind가 아니라 프런티어 AI 산업 전체다.

월스트리트저널이 보도한 바에 따르면, 하사비스는 DeepMind CEO에서 물러나기 전에 이미 미국 정부 고위 관계자 및 다른 AI 연구소 책임자들과 새로운 규제 메커니즘을 추진하고 있었다. 미국 재무장관 베슨트와 대통령 과학기술 고문 마이클 크라치오스도 그의 제안을 들었다. 베슨트는 또한 트럼프 정부의 AI 전략 수립에 참여했다. 하사비스는 미래의 기관을 AI 버전 '국제원자력기구'에 비유했다.

미묘한 점은 미국 정부가 이미 절반을 먼저 실행했다는 것이다. 백악관은 6월에 프런티어 모델 자발적 검토 프레임워크를 출시했고, 하사비스가 7월에 공개한 방안은 운영 세부사항까지 매우 유사하다: 모두 중점 검토가 필요한 프런티어 모델을 먼저 선정하고, 출시 전 최대 30일 전에 심사를 받을 수 있게 하며, 정부가 테스트에 참여하도록 한다.

차이는 마지막 관문에만 있다. 백악관은 이 메커니즘이 강제 허가나 출시 승인으로 변질되어서는 안 된다고 명확히 규정했다. 그러나 하사비스는 계속 앞으로 나아가고자 한다. 먼저 자발적으로 시작하고, 평가 메커니즘이 원활히 작동한 후 진입 장벽으로 전환하여 프런티어 모델이 기준을 통과하지 못하면 미국에서 배포할 수 없게 한다. 테스트도 사이버 공격에서 생물학적 위험, 에이전트의 안전 조치 우회 및 기만 행위로 확대되며, 필요 시 여러 최고 연구소가 함께 속도를 늦추도록 조율할 수도 있다.