달리오의 또 다른 면: 고환암을 앓았고, 머스크를 동경하며, 성인의 사망 손실이 유아의 3배라고 생각한다

동찰 Beating AI 속보, Anthropic CEO 다리오 아모데이(Dario Amodei)가 과거 고환암을 앓았던 사실이 알려졌다. 2014년 진단을 받고 항암 치료를 받았으며 최종적으로 완전히 회복했다. 이 경험은 그동안 거의 알려지지 않았다. 11월 5일, <뉴욕타임스>는 다리오의 친구, 동창, 전 동료 20여 명을 인터뷰하며 AI 안전 대표 인물의 또 다른 면모를 조명하려 했다.

다리오가 죽음과 시간에 주목하게 된 것은 더 거슬러 올라간다. 2006년 그의 아버지는 C형 간염으로 세상을 떠났으며, 이후 대부분의 환자에게 완치 기회를 준 신약을 기다리지 못했다. 다리오는 원래 물리학을 연구했으나 이후 점차 생물학으로 전환하며 신기술을 통해 의학 발전을 앞당기고자 했다. 친구들의 회고에 따르면 그는 엄격한 수영 훈련을 고수하고 항노화 보충제를 시도하며 열량 섭취를 제한했고, 시간의 유한성에 대해 자주 이야기하며 시간이 유일하게 재생 불가능한 자원이라고 여겼다.

이미 2007년에 다리오는 AI가 인간 지능을 초월한다는 구상에 매료되었다. 그는 친구들에게 기술적 특이점이 2040년에 도래할 수 있으며 인류가 기계와 융합할 수도 있다고 예측했다. 그러나 동시에 AI가 올바르게 개발되지 않으면 인류는 끝장날 수 있다고 경고했다.

당시 그는 AI 안전 사상가 엘리에저 유드코프스키와 효과적 이타주의 운동의 영향을 깊이 받았으며 머스크와도 서신을 주고받았다. 두 관계자에 따르면 다리오는 젊은 시절 머스크를 매우 존경했고 그의 회사에서 일하는 것까지 고려했으나 최종적으로는 성사되지 않았다.

2010년 다리오는 자선단체 GiveWell 블로그에 성인은 유아보다 더 풍부하고 깊은 삶의 경험을 지니므로 성인 한 명의 죽음이 초래하는 손실은 유아 사망의 2~3배에 이를 수 있다고 썼다.

당시 그는 성인 결핵 예방 사업과 아프리카 아동 백신 접종 지원이라는 두 자선 프로젝트를 비교하고 있었다. 그의 생명 가치 판단에 따르면 성인을 구하는 쪽이 더 우위에 있었다. 그러나 최종적으로 그는 1만 달러 전액을 아동 백신 프로젝트에 기부했다. 그는 후자의 신뢰할 수 있는 집행 과정과 효율적인 자선단체에 보상을 줌으로써 생길 수 있는 장기적 영향을 더 중시했다.

더 많은 사람을 돕기 위해 그는 심지어 연구를 포기하고 금융업으로 전향하는 것도 고려했다. 2010년 한 이메일에서 그는 기부에 쓸 더 많은 돈을 벌 수 있다는 이유로 금융업 종사를 고려하고 있다고 밝혔다.

합리적 계산을 신뢰하고 집행의 신뢰성을 중시하는 이러한 사고방식은 AI에 대한 그의 견해에도 드러난다. 그는 초지능 AI가 인류를 멸망시킬 수 있으므로 진정으로 안전을 중시하고 신뢰할 수 있는 사람이 개발해야 한다고 생각한다. AI 안전에 대한 이러한 강한 신념은 OpenAI 내부에서 누가 기술을 감독할 권한이 있고 누가 핵심 프로젝트에 참여할 수 있는가에 대한 다툼으로 점차 발전했다.

2018년, OpenAI 연구원 Joshua Achiam은 다리오가 회사의 최고 윤리 책임자를 맡는 것에 반대했다. 그는 Amodei 남매의 권력이 지나치게 집중되는 것을 우려하며 외부 전문가를 영입해 소수가 AI 윤리 감독권을 독점하는 것을 피해야 한다고 주장했다. 관계자에 따르면 다리오는 면전에서 목소리를 높이며 자신보다 이 직책에 더 적합한 사람은 없다고 주장했다.

GPT 프로젝트를 둘러싸고 갈등은 더욱 격화되었다. 다리오는 여동생 Daniela와 관련 연구를 주도한 후 OpenAI 사장 Greg Brockman의 참여를 극력 저지했다. 다리오는 Altman에게 여러 차례 최후통첩을 보냈다. Brockman을 프로젝트에서 멀어지게 하지 않으면 자신이 사임하겠다는 것이었다.

Altman은 결국 양보를 거부했다. 2020년 12월, 다리오 남매와 여러 동료는 OpenAI를 떠났고, 4주 후 Anthropic을 창업했다. 이 결별에는 연구 성과 귀속, 경영권, 그리고 오래 누적된 개인적 원한이 뒤섞여 있었다. 다리오는 Altman이 자신의 기여를 축소했다고 생각했으며, Brockman과 함께 일할 수 없다고 분명히 밝힌 바 있다.

대조적인 점은 2016년 트럼프가 처음 미국 대통령으로 당선된 후, 다리오가 OpenAI 내부 메시지에서 미국 정치의 향방에 대한 우려를 표명했다는 것이다. 그는 투자자 Peter Thiel이 트럼프를 지지했기 때문에 도덕적으로 비난받아 마땅하며, OpenAI는 더 이상 그의 돈을 받아서는 안 된다고 생각했다. 그러나 후에 Thiel이 창업한 벤처캐피털 Founders Fund는 Anthropic의 투자자가 되었다.

현재 다리오가 이끄는 Anthropic은 더 엄격한 AI 안전 감독을 추진하고 있다. 그는 또한 대중국 칩 수출 제한, 규제 강화, AI 통제 불능 경계를 주장하며 젠슨 황, 저커버그 등 기술 거물들과 공개적으로 의견을 달리하고 있다. 지지자들은 그가 책임감 있게 AI를 개발하고 있다고 보는 반면, 비판자들은 그가 소수 기업이 과도한 기술 권력을 갖도록 하려 한다고 본다.

다리오 본인은 《뉴욕타임스》의 이번 인터뷰를 거절했다.