하사비스의 '지하요새 계획': 신간 책이 DeepMind 보안 이상이 어떻게 무너졌는지 복원

텔레그램 1M AI News의 모니터링에 따르면, The Atlantic 잡지에는 기술 역사가이자 금융 역사가 Sebastion Mallaby의 새 책 The Infinity Machine에서 2023년부터 2026년까지의 지속적 인터뷰를 바탕으로, 2014년 구글이 DeepMind를 인수 한 이후 Demis Hassabis의 AI 안전 이념 변천사가 재구성되었습니다.

Hassabis는 초기에 단일 과학팀이 전 세계 인류를 대신하여 안전하게 초인공지능을 구축하도록 구상하였으며, 중요한 시점에 세계적인 연구원을 비밀 요새로 데려갈 계획조차 세웠습니다. 입사한 지 얼마 안 된 연구원 한 명은 면접 마지막에 이 주제로 그에게 경고를 준 기억을 되새기며 말했습니다. Hassabis는 마루탄 계획과 유사하게 "모로코의 어느 비밀 장소로 언제든지 비행할 준비"를 하라고 경고했습니다.

2014년 DeepMind를 인수 할 때, Hassabis는 드물게도 다음 조건을 내세웠습니다: 독립적인 외부 감시 위원회 설립, 군사적 용도 금지, 구글이 기술 배포를 완전히 통제하지 못하도록. 구글은 이를 받아들였습니다. 그 다음 해에 Hassabis는 칼리포니아 호손에 위치한 머스크 본사에서 잠복 회의를 소집하여 잠재적인 경쟁자를 단일 진영에 편입시키려 했으나, 결국 그 마땅한 반응을 얻지 못하였습니다: 머스크는 그 후 사만 알트만과 손잡고 OpenAI를 설립했습니다.

이후 Hassabis는 "프로젝트 마리오"라고 명명된 비밀 작전을 시작하여 구글로부터 자율성을 회수하고, 법률 팀을 구성하고, LinkedIn의 공동 창립자인 리드 호프만으로부터 10억 달러의 자금을 확보하고, DeepMind를 구글로부터 분리하는 것까지 고려했습니다. 이러한 싸움은 3년 동안 지속되었으며, 결국 실패로 끝나게 되었습니다. 공동 창립자 Mustafa Suleyman도 2019년 회사를 떠나도록 강요받았습니다.

2022년 말 ChatGPT가 출시된 이후, Hassabis는 곧바로 유익한 과학만을 추구하는 고상한 방식을 완전히 포기했습니다. 그는 Mallaby에게 "이것은 전쟁이다"라고 말했으며, 즉시 Gemini 및 ChatGPT에 모든 것을 투자했습니다. 수천억 달러가 AI 군사 경쟁에 투입되었으며, 국가 감독 또는 기업 지배 구조 모두가 경쟁을 막을 수 없습니다. Hassabis의 안전 철학이 근본적으로 변화했습니다: "안전은 지배 구조에 달려 있지 않습니다. 지배 위원회가 있더라도, 중요한 순간에 그것은 아마도 올바른 일을 결쳐내지 않을 것입니다." 그의 새로운 전략은 스스로가 "의사 결정 테이블에 자리를 확보해 안전 문제가 발생할 때 해결책을 결정에 참여할 수 있도록 하는 것"입니다. 이와 동시에 구글은 이미 미국 국방 시스템에 AI를 적극적으로 판매하고 있으며, Hassabis가 인수를 위해 설정한 군사 금지 조항과는 대조적인 방향을 향하고 있습니다.