원문 제목: Sam Altman이 우리의 미래를 통제할 수 있을까요? - 그를 믿을 수 있을까요?
원문 작성자: Ronan Farrow 및 Andrew Marantz, 뉴요커
번역: Peggy, 블록비츠

편집자 주: 본문은 다수의 비공개 문서 및 심층 인터뷰를 통해 OpenAI 내에서 Sam Altman 주변의 권력 및 신뢰 위기를 되짚어 보았습니다. 이사회 파면부터 신속한 재취임을 거치는 '쿠데타식 반전'까지, 이번 파동은 우발적 사건이 아니라 장기간에 걸친 지배 구조 갈등의 집중 폭발이었습니다.

충돌의 핵심은 계속되는 두 가지 논리의 충돌에 있었습니다: OpenAI의 설립 초에 '인간 안전 우선'을 전제로 한 비영리 미션과, AGI 접근과 상업화 가속에 따라 제품, 규모 및 수익 중심으로 점차 전환되는 발전 경로입니다. 이 과정에서 안전 공약은 계속 약화되었으며, 권력과 결정은 점차 소수의 인물에게 집중되었습니다.

Altman에 대한 Ilya Sutskever, Dario Amodei 등의 핵심 인물들의 의문은 정보의 불투명성과 전략적 표현에 집중되었으며, 그의 리더십 방식이 '인류의 운명을 바꾸는' 기술에 견고한 지배를 제공하기에는 어렵다고 보았습니다. 반면 지지자들은 그가 자원 통합, 자본 운영 및 실행 측면에서의 역량이 바로 OpenAI가 신속히 확장하는 핵심이라고 강조했습니다.

기술적 권력이 세계적 질서에 영향을 미칠만큼 충분한 때, 기존의 회사 지배 구조가 여전히 개인을 제약할 수 있을까요? 다시 말해, AI 시대에 진정한 불확실성은 기술 자체에서만 오는 것이 아니라 기술을 통제하는 사람으로부터 올 수도 있습니다.

아래는 원문입니다:

권력과 신뢰: Altman이 이끄는 지배 구조의 갈라진 틈

2023년 가을, OpenAI 최고 과학자인 Ilya Sutskever는 회사 이사회의 다른 세 명의 구성원들에게 비밀 메모를 보냈습니다. 그들은 몇 주 동안 민감한 문제를 비공개로 논의해 왔습니다: 회사 CEO Sam Altman과 그의 오른팔 Greg Brockman이 이 회사를 계속 이끌기에 여전히 적합한가에 대한 문제였습니다.

출처: AI WORLD TODAY

Sutskever는 이전에 두 사람을 친구로 여겼습니다. 2019 년에는 그가 OpenAI 사무실에서 Brockman의 결혼식을 주관했는데, 해당 결혼식에는 심지어 "반지 전달자"로서 로봇 팔이 참석하기도 했습니다.

그러나 회사가 멘탈적 능력에서 인간과 견줄 수 있거나 인간을 능가하는 인공지능을 만들기 위한 장기 목표에 점점 가까워지고 있다고 믿게 되면서, 그는 Altman에 대한 의구심이 계속 깊어지기 시작했습니다. 그 당시 그가 다른 이사에게 한 말에 나와 있었던 대로: "난 Sam이 버튼을 눌러야 하는 사람이라고 생각하지 않아."

다른 이사들의 요청에 따라 Sutskever는 동료들과 함께 약 70 페이지 분량의 자료를 정리했는데, 이 자료에는 Slack 채팅 기록, 인사 자료 및 부가 설명이 포함되어 있었습니다. 일부 내용은 회사 장비의 감시를 피하기 위해 핸드폰으로 촬영한 화면 캡처인데, 그가 이러한 자료를 다른 이사들에게 보내면서 "읽은 뒤에 사라짐" 방식으로 보내어 더 많은 사람이 볼 우려가 없도록 했습니다.

자료를 받은 한 이사는 "그 당시 그는 매우 두려워했다"며 회고했습니다. 우리는 이 자료들을 살펴봤는데, 이전에 이러한 내용들이 완전히 공개된 적이 없었습니다. 문서에는 Altman이 경영진과 이사회 구성원들을 속이고 내부 보안 프로토콜 문제에서 속임수를 쓴 것으로 지적했습니다. Altman에 관한 한 문서는 "Sam의 일관된 행동은 다음과 같습니다…"라는 항목 목록으로 시작해서, 첫 번째 항목이 "거짓말"이었습니다.

많은 기술 회사들이 "세상을 더 나은 곳으로 만든다"고 주장하지만, 실제 운영은 수익 극대화를 중심으로 전개됩니다. 그러나 OpenAI의 설립 취지는 이러한 모델과 다릅니다. Altman, Sutskever, Brockman 및 Elon Musk를 포함한 그 창립자들은 인공지능이 역사상 가장 강력하면서 잠재적으로 가장 위험한 발명 중 하나가 될 수 있다고 믿었습니다. "존재 위험"의 맥락에서, 회사는 비전통적인 조직 구조가 필요할지도 모릅니다.

OpenAI는 처음에 비영리 단체로 설립되었는데, 그 이사회의 임무는 "모든 인류의 안전"을 회사의 성공보다 우선시하고, 회사의 생존조차도 그것보다 우선시하는 것이었습니다. CEO는 비범한 성격과 도덕적 품성을 갖추어야 했습니다.

Sutskever가 말한대로, "이 문명을 바꿀 수 있는 기술을 구축하는 데 참여하는 모든 사람은 역사적 책임을 지고, 이전에 없던 의무를 수행해야 합니다." 하지만 그는 "이러한 위치에 올라가는 사람들은 종종 특정 유형의 사람들인데 — 권력에 대한 욕망이 있는 사람들, 정치적 인물 또는 권력 자체를 즐기는 사람들"이라고 지적했습니다. 한 자료에서, 그는 이 기술을 "다른 사람이 듣고 싶어하는 말만 하는 사람에게 위임하는 것"에 대해 우려를 표현했습니다.

만약 OpenAI의 CEO가 결국 신뢰할 수 없다고 인정받는다면, 6인으로 구성된 이사회는 그를 해임할 권한을 갖게 됩니다. 인공지능 정책 전문가 Helen Toner와 기업인 Tasha McCauley를 포함한 일부 이사는 이러한 메모를 읽은 후에 그들의 이전 판단을 더욱 확고히 하였습니다: Altman이 맡은 것은 인류의 미래에 관련된 책무이지만, 그 자신은 신뢰할 만한 인물이 아닙니다.

이사회 쿠데타: Sam Altman 해임

당시, Sam Altman은 라스베이거스에서 F1 경주를 관람하고 있었고, Ilya Sutskever가 그에게 이사회와 화상 회의를 하자고 초대하였습니다. 회의에서 Sutskever는 간단한 성명서를 낭독하며, Altman이 더 이상 OpenAI의 구성원이 아님을 선언했습니다. 이사회는 법률 자문에 따라 Altman이 '의사소통 중 항상 정직하지 못했다'는 이유로 해임되었다는 외부 공지문을 발표했습니다.

이 결정은 OpenAI의 많은 투자자와 임원들을 깜짝 놀라게 했습니다. OpenAI에 약 13억 달러를 투자한 Microsoft도 결정이 실행되기 직전에야 메시지를 알게 되었습니다. "당시에 너무 충격을 받았다," 후에 마이크로소프트 CEO인 Satya Nadella는 추억했다. "나는 아무에게도 더 많은 정보를 얻을 수가 없었어." 그는 이후 Reid Hoffman(LinkedIn 공동 창업자, OpenAI 투자자 및 마이크로소프트 이사)와 연락을 취하기 시작했고, Hoffman은 Altman이 명확한 잘못을 저질렀는지 알아보기 시작했습니다. "당시에 완전히 무슨 일이 일어나고 있는지 이해를 못 했다," Hoffman은 우리에게 말했습니다. "우리가 찾고 있었던 것은 사기나 성희롱과 같은 문제였지만, 나는 아무 것도 발견하지 못했다."

다른 비즈니스 파트너들도 마찬가지였습니다. Altman이 자신이 해임되었다고 투자자 Ron Conway에게 전화를 걸었을 때, Conway는 미국 하원의원 Nancy Pelosi와 점심 식사를 하고 있었으며, 그는 즉시 전화를 건넸습니다. "당신은 여기서 떠나는 게 좋다네," 그녀는 Conway에게 말했습니다.

동시에 OpenAI는 Venture Capital 회사인 Thrive Capital로부터의 중요한 자금 조달을 마무리하고 있었습니다. Josh Kushner가 설립한 이 회사는 Jared Kushner의 동생이기도 하며, Altman과는 수년간의 지인관계가 있었습니다. 이 거래는 OpenAI의 가치를 860억 달러로 평가하고, 많은 직원들이 수백만 달러의 주식 이익을 실현할 수 있게 했습니다. Kushner는 음악 프로듀서 Rick Rubin과의 회의를 마친 직후 Altman의 부재 전화를 보고 전화를 걸었습니다. "우리는 즉시 전투 태세에 돌입했습니다," 그는 나중에 회상했습니다.

해고 당일에 Altman은 사이좋게 생각하는 사람들과 함께 시간을 보낼 수 있는 곳인 샌프란시스코의 2,700만 달러 가치의 고급 저택으로 돌아갔다. 그 곳은 만수르 형태의 무한 수영장이 자리한 해변을 내려다 볼 수 있는 곳으로, 그곳에는 Altman이 "어떤 유배 정부"로 칭하며 설정한 임시 지휘 센터가 있었다. Conway, Airbnb 공동 창업자인 Brian Chesky, 그리고 강경파이어 대응 전문가로 유명한 Chris Lehane 등이 비디오와 전화로 참여했으며, 종종 수시로 이야기하는 데 몇 시간이 소요되기도 했다. Altman의 일부 경영진 팀원들은 심지어 이 집의 복도에서 직접 "야영"을 했다. 변호사들은 Altman의 침실 옆 가정 사무실에 주둔했다. 불면증이 발생하면 Altman은 잠옷을 입고 그들 옆을 왔다갔다했다. 최근 인터뷰에서 Altman은 해고 후 이 경험을 "이상한 헤엄치는 듯한 상태"로 묘사했다.

이사회가 침묵을 지켰을 때, Altman의 고문팀은 그의 귀환을 위해 홍보 기반을 구축하기 시작했다. Lehane은 이번 해고가 실제로 "효율적인 이타주의자들" (인류 전체의 복지를 극대화하는 사상을 강조하는 사람들)에 의해 계획된 "쿠데타"로, 이들은 인공지능을 존재론적 위협으로 여기는 것이라 주장했다. (당시 Hoffman은 Nadella에게 해고가 "어떤 종류의 효율적인 이타주의적 열광"에서 비롯되었을 수도 있다고 했다.) Lehane은 Mike Tyson의 유명한 금언을 인용하며 Altman에게 급진적인 소셜 미디어 캠페인을 시작하라고 제안했다. Chesky는 기술 저널리스트 Kara Swisher와 연락을 유지하며 이사회에 대한 비판을 계속 전파했다.

매일 저녁 6시, Altman은 "전투실"에서 밖으로 나와 네그로니 잔을 따서 마셨다. Altman은 당시 주변 사람들에게 "조금 더 편안해져야 해, 일어나야 할 일은 언제나 일어날 테니까"라고 회상했다. 그러나 통화 기록에 따르면, 그는 그 때 매일 12시간 이상 통화를 한 것으로 나타났다.

한 관계자에 따르면, 어느 순간 Altman은 당시 OpenAI의 임시 CEO였던 Mira Murati에게 그의 지원자들이 "막강한 공세"를 펼치고, "부정적인 정보를 발굴"하여 그녀와 그 밖에 자리를 내어준 사람들의 명예를 손상시키려고 한다고 말했다. (Altman 자신은 이 대화를 기억하지 못했다고 말했다.)

해고된 후 몇 시간 이내에, Thrive Capital은 원래 예정된 투자를 중단했으며, Sam Altman만 복귀할 경우에만 거래가 완료되고 직원들이 지분 이익을 얻을 수 있다고 명확히 밝혔다. 당시 문자 기록에 따르면, Altman과 Satya Nadella는 매우 긴밀히 소통하고 있었다. (공동 성명을 작성할 때, Altman은 "Satya와 내가 현재 목표로 삼고 있는 것은 OpenAI를 구하라"라고 제안했으며, Nadella는 다른 표현을 제안했다: "OpenAI가 계속 발전할 수 있도록 보장하라".)

권력의 역전: 5일 후, Altman이 신속히 복귀

이후 Microsoft는 Altman과 OpenAI를 떠난 모든 직원을 위해 경쟁 프로젝트를 시작할 것이라고 발표했습니다. 동시에 Altman의 복귀를 요청하는 공개 서한이 회사 내에서 전파되기 시작했습니다. 처음에 서명을 망설였던 몇 명도 동료들의 간곡한 전화와 메시지를 받았습니다. 결국 OpenAI의 대부분 직원이 Altman을 지지하며 집단적인 사직을 협박했습니다.

이사회는 매진 상황에 몰렸습니다. "Control Z, 이것이 선택지입니다," Helen Toner가 이를 표현했습니다. 이는 해고 결정을 철회하는 것을 의미합니다. "또 다른 선택은 회사의 붕괴입니다." 심지어 당시 임시 CEO였던 Mira Murati도 마침내 공개 서한에 서명했습니다. Altman의 지지자들은 Ilya Sutskever의 입장을 바꾸도록 설득하기 시작했습니다. Brockman의 아내인 Anna는 사무실에서 그에게 재고를 요청했습니다. "당신은 착한 사람이야, 당신이 모든 것을 복구할 수 있어." Sutskever는 나중에 법정 증언서에서 "만일 우리가 Sam이 되돌아오지 않는 길을 택한다면, OpenAI는 파괴될 것"이라고 설명했습니다.

어느 날 밤, Altman은 수면제인 앰비언을 복용한 후 자신을 깨운 호주 프로그래머인 Oliver Mulherin으로부터 Sutskever의 태도가 흐트러지고 있으며, Altman이 즉시 이사회와 연락해야 한다는 제안을 들었습니다. "나는 앰비언과 비슷한 환각 상태에서깨어났는데, 전체적으로 혼란스러웠어," Altman은 회상했습니다. "그때, 나는 이사회와의 대화를 전혀 할 수 없다고 생각했어."

점점 긴장된 일련의 통화에서 Sam Altman은 해고 결정을 추진한 이사회원들이 사퇴해야 한다고 요구했습니다. 회귀에 대해 이야기할 때, 그는 당시 첫 반응이 "나는 의심으로 가득 찬 분위기에서 그들이 남긴 난국을 정리해야만 한다는 것?"이었다고 회상했습니다. "그때 나는 절대 불가능하다고 생각했어." 최종적으로 Ilya Sutskever, Helen Toner 및 Tasha McCauley는 이사직을 잃었고, Adam D'Angelo(Quora 창립자)만이 원 이사회원으로 남았습니다.

이 사직 조건으로, 이 이사들은 Altman에 대한 고발 조사를 요구했습니다 - 이는 그가 경영진 간 갈등을 조장하고 자신의 재정적 관련을 숨겼다는 것을 포함합니다. 그들은 또한 외부 조사를 독립적으로 감시할 새 이사회를 조성했습니다. 그러나 새로운 두 명의 이사인 전 하버드 대학 총장인 로렌스 서머스와 전 Facebook 최고 기술 책임자인 브렛 테일러는 Altman과의 긴밀한 대화 후 선정되었습니다. "이렇게 하는 것이 괜찮을까," Altman은 Satya Nadella에게 문자를 보냈습니다. "Bret, Larry Summers 및 Adam으로 구성된 이사회, 나는 CEO로 계속, Bret이 조사를 책임지도록."(McCauley는 나중에 증언서에서, Taylor이 이사회에 합류하기로 고려될 때, Altman에 대해 너무 순종적이라는 우려를 표현했습니다.)

해고된 지 다섯 일도 채 안 된 시간에 Altman은 다시 직책에 복귀했습니다. 회사 직원들은 나중에 이 기간을 "빌립(Blip)"이라고 묘사했는데, 이는 마블 영화의 한 장면을 차용한 것입니다. — 캐릭터들이 잠시 사라진 후 돌아와서도 세상이 그들의 부재로 인해 크게 변한 상황을 가리킵니다.

그러나 Altman 주위에서의 신뢰 문제 논쟁은 이미 OpenAI 이사회 범위를 넘어섰습니다. 그를 해임시킨 동료들은 Altman이 심각한 정도의 오도 및 오해를 일으켰다고 주장했는데, 이는 어떤 기업 임원에게도 수용하기 어렵습니다. 또한 이러한 기술적 혁신을 책임지는 리더에게는 더 큰 위험을 안고 있습니다. "우리는 그의 권력에 부합하는 제도가 필요합니다," Mira Murati는 우리에게 이야기했습니다. "이사회는 의견을 물었고, 나는 보고한 내용에 대해 전적으로 책임이 있습니다." 반면 Altman의 지지자들은 이러한 주장을 오랫동안 무시해 왔습니다. 해고 사건 이후, 투자가인 Ron Conway은 Brian Chesky와 Chris Lehane에게 메시지를 보내 공개적으로 반격하라고 요청했습니다: "이것은 Sam의 명예와 관련되어 있습니다." 그는 또한 워싱턴 포스트(Washington Post)에게, Altman이 "제어되지 않은 이사회"에 의해 불공정하게 대우받았다고 말했습니다.

이후 OpenAI는 전 세계에서 가장 가치 있는 회사 중 하나로 성장했으며, 최대 1조 달러에 이를 수 있는 공모를 준비 중이라고 전해졌습니다. 한편 Altman은 대규모 AI 인프라 구축을 추진하고 있으며, 일부 전략은 해외 국가의 독제적인 영토까지 확장되고 있습니다. OpenAI는 큰 규모의 정부 계약을 추구하고 있으며, 이민 당국, 국내 감시 및 전술 무기 분야에서 AI 응용 프로그램의 표준을 점진적으로 설정하고 있습니다.

Sam Altman은 OpenAI의 성장을 견인하기 위해 지속적으로 거창한 미래 비전을 그려왔습니다. 그는 2024년의 블로그 글에서 다음과 같이 썼습니다: "그 놀라운 승리들 — 기후 문제 해결, 우주식민지 설립, 모든 물리 법칙의 발견 — 결국 일상적인 일이 될 것입니다." 이러한 서사는 역사상 가장 빠르게 자금을 태우는 초기 스타트업 기업 중 하나를 지지하며 나아갑니다. 그의 자금은 크게 신용 조달형 파트너에 의존하며, 미국 경제는 점점 더 소수의 AI 기업의 고려를 받게 되고 있습니다. 많은 전문가들 — 때로는 Altman 자신조차도 —이 산업에 거품 위험이 있다고 경고하고 있습니다. "어떤 사람은 엄청난 돈을 잃게 될 것입니다," 그는 작년 기자에게 말했습니다. 거품이 꺼지면 경제적 재앙을 불러올 수 있지만, 그의 가장 낙관적인 예상이 사실이 된다면, 그는 세계에서 가장 부유하고 권력 있는 사람 중 하나가 될 수도 있습니다.

Altman이 해임된 후의 긴장한 통화에서 이사회는 그가 일관된 오도 행위를 인정하도록 요구했습니다. 참석자들은 그가 "이것은 너무 어처구니 없어"라고 반복했으며, "내 성격을 바꿀 수 없어"라고 말했습니다. Altman은 후에 이 대화를 기억하지 못했다고 말했습니다. "아마 그때 제 의도는 '모두를 하나로 모이게 하고자 했던 사람이 되려고 노력했던 것' 정도 일 것입니다," 그는 나중에 우리에게 설명했으며, 이 특성이 그에게 극도로 성공적인 회사를 이끈 원인이었다고 말했습니다. 그는 이러한 비판을 자신의 경력 초기에 대면 충돌을 지나치게 회피한 경향 때문으로 돌렸습니다. 그러나 한 명의 이사는 전혀 다른 해석을 제시했습니다. "그 문구의 의미는 사실상 '내가 사람들에게 거짓말을 하고 그것을 멈출 수 없다'입니다,"라고 말했습니다.

미션 드리프트: 안전 우선에서 비즈니스 중심으로

그래서 보다 근본적인 문제가 떠올랐다: 그들의 하락을 촉진한 동료들은 과도한 경계심 또는 개인적 감정 때문에 그렇게 한 것인가, 아니면 그들의 판단은 원래 정확했던 것인가, Altman은 신뢰할 만한 인물이 아닌가?

올해 겨울, 샌프란시스코의 OpenAI 본사에서 Altman과 만난 적이 있었다. 이는 이 기사를 위해 그와의 열두 차례 인터뷰 중 하나였다. 회사는 최근 두 개의 열한 층짜리 유리 타워로 이사했다. 그 중 한 채는 다른 기술 거물인 Uber의 소유였다. Uber의 공동 창업자 겸 전 CEO인 Travis Kalanick는 한때 톱 기업가로 여겨졌으며, 2017년 투자자들의 압박으로 사임할 때까지 도덕적 문제에 대한 이유로 논란이 되었다. (현재 Kalanick은 로봇 스타트업을 경영하고 있으며, 여가 시간에는 OpenAI의 ChatGPT를 사용하여 "양자 물리의 전선"을 탐험하고 있다.)

한 직원이 우리를 사무실 공간을 둘러보게 했다. 공유 긴 테이블로 가득 찬 명확하고 밝은 공간에는 앨런 튜링 컴퓨터 과학자의 동적 디지털 그림이 걸려 있었는데, 눈이 우리의 움직임을 따라 회전했다. 이 장치는 분명히 "튜링 테스트"를 경의하기 위한 것으로 보인다-이는 기계가 인간을 납득시키게 하는 능력이 있는지 판단하기 위해 1950년에 제안된 사고 실험이다. (2025년의 연구에 따르면, ChatGPT는 이 테스트에서 진행이 진짜인간을 능가했다.)보통 이 그림은 사람들과 상호 작용이 가능하다. 그러나 우리 가이드는 그것의 음성 기능이 비활성화되었음을 설명했는데, 그 이유는 항상 직원들의 대화를 듣고 자주 끼어 들어서였다. 사무실의 다른 구석구석엔 'AGI를 느껴보세요'라는 구호가 쓰여 있었는데, 이 구호는 초창기부터 Ilya Sutskever가 제기했으며, 부적절한 인공 일반 지능(기계가 인간과 같은 수준의 인식 능력을 갖는지)의 위험을 동료들에게 상기시키기 위해 사용되었다. 그러나 'Blip' 이후, 이것은 점점 밝은 미래 전망을 찬양하는 경쾌한 구호로 변모했다.

우리는 평범해 보이는 8층 회의실에 Sam Altman을 만났다. "이전에 누군가가 '의사 결정 피로'에 대해 얘기할 때 전혀 이해하지 못했어요," 그는 말했다. "지금은 매일 회색 스웨터와 청바지를 입고 있어요. 심지어 어떤 회색 스웨터를 옷장에서 골라내야 할지도 생각하곤 해요: 이 결정을 내리지 않아도 되면 좋겠다고 말이죠."

Altman은 여전히 어리보이고, 마른 체형이며, 파란 눈이 크게 떨어져 있으며, 머리는 약간 헝클어져 있지만 이미 40세이다. 그는 Oliver Mulherin과 대여모를 둔 아이를 "대여모를 둔 아이를 얻었다."라고 말했다. "나는 미국 대통령이 훨씬 더 스트레스 받을 것이라고 믿지만, 나는 현실에서 내가 이 일에서 잘할 수도 있는 전혀 느낄 수 있는 일 중에서 가장 스트레스를 받는다고 생각해요," 그는 한 사람을 먼저 쳐다보았다가 다른 사람을 쳐다봤다. "나는 항상 친구들에게 이렇게 설명해 왔어요: '이게 세계에서 가장 재미있는 일인데요, ChatGPT를 출시한 그날까지.' 그 이전까지, 우리는 이 엄청난 과학적 발견들을 하고 있었죠 - 제 생각에 그것이 수십 년 동안의 가장 중요한 과학적 발견 중 하나였어요." 그는 고개를 숙였다. "'그러나 ChatGPT를 출시한 이후로, 모든 결정이 굉장히 어려워졌어요."

알트만은 미주리주 클레이튼에서 자랐으며, 이 곳은 세인트 루이스의 부유한 교외지역으로, 그는 네 자녀 중 맏형이다. 어머니 코니 기브스타인은 피부과 의사이며, 아버지 제리 알트만은 부동산 중개업자이자 주거 계획에 참여한 경험이 있다. 그는 개혁적인 유대교 교회에서 성장하였고, 사립 예비 학교에 다녔으며, 후에 그곳을 "당신이 쉽게 동성애자로 나서서 이야기할 수 있는 곳은 아니었다"라고 표현했다. 하지만 전반적으로, 그가 살았던 중산층 이상의 사회적 환경은 비교적 자유로웠다.

약 16세 또는 17세 때, 그는 세인트 루이스의 동성애자 집단이 많은 지역에서 밤에 나가 있을 때, 심각한 육체적 공격과 혐오 발언을 당했다. 알트만은 경찰에 신고하지 않았으며, 이 사건에 대해 더 많은 세부를 제공하고 싶어하지 않았으며, 이 사건에 대한 더 완벽한 이야기는 "남에게 조작되는 것처럼 보이거나 연민을 끌어내려 하기 위한 것"이 될 것이라고 말했다. 그는 이 경험과 자신의 성적 취향이 정체성에 미치는 중요성을 얕게 다루었지만, "실제로 벗어나버렸다고 생각했지만 사실 그렇지 않았다는, 더 이상 갈등을 일으키고 싶지 않은 내내에서 정신적으로 깊은 것이 남아있을 것이라는 사실은 인정한다."

그의 동생은 2016년 New Yorker 인터뷰에서 그의 어린 시절 성격을 다음과 같이 묘사했다: "내가 이겨야 했고, 모든 것이 내가 통제했어야 했다." 알트만은 후에 스탠퍼드 대학에 입학하였으며, 학교에서 외부 포커 게임에 자주 참여했다. "나는 거기서 삶과 비즈니스에 대해 배운 것이 대학에서 배운 것보다 많다고 생각한다."

Y Combinator 시기: 과장과 신뢰 논란

스탠퍼드 학생들은 대개 야망이 넘치지만, 가장 행동력 있는 일부는 종종 중퇴를 선택한다. 2학년이 마무리된 그 여름, 알트만은 매사추세츠로 이민하여 스타트업 인큐베이터 Y Combinator의 초기 창업자 프로그램에 참가했다. 이 기관은 유명한 소프트웨어 엔지니어인 폴 그레이엄과 공동 설립한 것이다. 각 참가자는 창업 아이디어를 갖고 가입했으며, (알트만과 함께 한 그룹에는 후에 Reddit와 Twitch를 창립한 팀도 포함되어 있었다.) 알트만의 프로젝트는 나중에 Loopt로 명명되었으며, 사용자의 이동 위치를 추적하여 친구들이 서로의 위치를 확인할 수 있는 초기 소셜 네트워크 제품이었다. 이 회사는 그의 실행력과 모호한 규정 속에서 자신을 위한 공간을 확보하기 위한 성향을 나타냈으며, 당시 연방 규정은 통신사가 비상 상황에서 핸드폰 위치를 파악할 수 있도록 요구했지만, 알트만은 통신사와 합의하여 이 능력을 자사 제품에 통합시켰다.

Loopt 시절 대부분의 직원들은 샘 알트만을 좋아했지만, 누군가는 그가 "과장"하는 경향에 깊은 인상을 받았으며, 때로는 사소한 문제에서도 그렇다고 말했다. 어떤 사람은 알트만이 "미주리 고등학교 탁구 챔피언"이라고 스스로를 자랑했었다고 회상했는데, 실제로 그는 회사 내에서 최악을 치르는 사람 중 하나였다. (알트만은 그것이 아마 농담이었을 것이라고 말했다.) Loopt의 한 노인 직원 마크 제이콥스타인은 투자자들이 알트만의 "보호자"로서 행동하기로 배정되었던 적이 있으며, 그는 후에 Keach Hagey의 저술인 The Optimist에서 다음과 같이 평가했다: "'나도 할 수 있을 것 같아'와 '나는 이미 이것을 해냈다' 사이에는 모호한 지대가 있으며, 이러한 모호함은 극단적인 상황에서 Theranos와 같은 결과를 초래할 수 있다."

하게이의 설명에 따르면, Altman의 리더십 방식과 투명성 부족 때문에, Loopt의 일부 고위 직원들이 두 차례에 걸쳐 그를 CEO에서 해임시키는 것을 이사회에 건의했습니다. 그러나 동시에 그는 매우 강력한 개인 매력력을 가지고 있습니다. 한 전 직원은, 이사회 구성원 중 한 명이 직접 대답했다고 회상합니다: "이것은 Sam의 회사이니 너의 일에 집중해라." (하지만 일부 이사들이 이러한 해임 시도가 심각하게 이루어졌다고 부인하기도 했습니다.)

Loopt는 사용자 성장에서 항상 성과를 보지 못했으며, 2012년에 금융 기술 회사에 인수되었습니다. 알리는 분위기 상회를 돕는 것이 주된 목적이었던 소문통에 의하면 이 인수는 많은 부분이 Altman이 "체면있게 퇴출하기" 위한 것이었습니다. 그러나 2014년에 Paul Graham이 Y Combinator에서 은퇴했을 때, 그는 여전히 Altman을 자신의 후임자로 선택했습니다. "나는 집 부엌에서 그에게 물어봤습니다," Graham은 뉴요커에 말했습니다. "그는 웃었다. 마치 모든 것이 이미 이루어진 것처럼. 나는 Sam이 그렇게 통제력을 잃고 웃는 걸 본 적이 없다. 마치 종이 공을 멀리 던질 때 얼굴로 웃는 것 같은 웃음."

새로운 역할로 28세의 Altman은 "판도라의 상자를 열었는가"가 되었습니다. 그의 일은 가장 야심찬이고 잠재력이 있는 창업자를 선별하여 그들을 최고의 프로그래머 및 투자자들과 연결시키고 산업 표준의 과점 기업을 구축하는 것이었습니다. (이 과정에서 Y.C.는 6%에서 7%의 지분을 차감합니다).

그의 지도자로, Y Combinator는 빠르게 성장하며, 인큐베이팅 프로젝트는 몇십 개에서 수백 개로 증가했습니다. 그러나 실리콘밸리 투자자들 중 일부는 그의 이익이 완전히 일치하지 않는다고 생각하기 시작했습니다. 한 투자자는 우리에게 말했습니다, Altman은 "우수한 회사들에 대해 개인적인 투자를 선택적으로 하는 경향이 있어 외부 투자자들을 제쳐놓는다"고. (Altman은 이 주장을 부인했습니다.) 또한 그는 Sequoia Capital의 "정찰꾼"으로 활동하며 초기 프로젝트 투자에 참여하고 일부 수익을 얻었습니다.

근본적으로 Altman은 천사 투자자로서 금융 기술 기업인 Stripe에 투자할 때 더 높은 비율의 주식을 얻기를 요구했고, 이러한 행동이 샌드힐 내부에서 불만을 샀다고 합니다. 그 사람은 "이는 'Sam 우선' 전략을 나타낸다"고 평가했습니다. (Altman은 이 주장을 부인했습니다. 그는 2010년경에 약 1.5만 달러를 투자하여 Stripe의 약 2%의 지분을 가졌으며, 현재 회사는 1500억 달러 이상으로 평가됩니다). Altman은 약 400개의 회사에 투자했다고 자신합니다.

2018년까지, Y Combinator 내에서는 Altman의 행동에 대해 불만을 품은 많은 파트너가 있었으며, 그들은 Graham에게 상황을 전달했습니다. 이후 Graham은 그의 아내이자 Y.C.의 공동창업자인 제시카 리빙스턴과 Altman과 솔직한 대화를 나누었습니다. 그 후, Graham은 Altman이 구두적으로 퇴출에 동의했지만 실제 조치에서는 실제로 퇴출하지 않았다고 공개적으로 언급하기 시작했습니다.

알트만은 일부 파트너들에게 사장 직위를 사임하고 이사회 의장으로 이직할 것이라고 밝혔습니다. 2019년 5월, Y Combinator는 새 사장 임명을 발표하는 블로그 글을 게시했는데, 그중에는 "Sam이 YC 이사회 의장으로 이직 중이다"는 한 줄 설명이 포함되어 있었습니다. 몇 달 후, 이 문구는 "Sam Altman이 YC에서 공식적인 모든 직책을 떠났다"로 수정되었으며, 이후 이 문구 또한 완전히 삭제되었습니다. 그럼에도 불구하고, 2021년까지 미국증권거래위원회의 문서에는 여전히 알트만이 Y Combinator의 이사회 의장으로 기재되어 있습니다. (알트만은 이 사실을 나중에 알게 되었다고 말했습니다.)

Sam Altman은 몇 년 동안 공개적으로 그리고 최근의 법적 증언에서도 Y Combinator에 해고당한 적이 없다고 단언해 왔으며, 그는 우리에게 떠나갈 저항이 없었다고 말했습니다. Paul Graham은 트위터에서 "우리는 그를 떠나게 하려는 게 아니었고, YC와 OpenAI 사이에서 선택을 내리기를 바랐다"고 밝히기도 했습니다. 성명서에서 그는 "우리는 법적으로 누군가를 해고하는 권한이 없고, 우리가 할 수 있는 것은 윤리적 압박을 가하는 것 뿐이다"라고 우리에게 말했습니다.

그러나 비공개적인 면에서는, 그의 주장은 더 명백했습니다. 알트만이 떠난 이유는 YC 파트너들이 그에 대한 신뢰 부족에서 비롯되었습니다. 이 문서에서 설명한 알트만의 Y Combinator 시기에 관한 내용은 다수의 YC 창업자 및 파트너와의 인터뷰 및 해당 시기의 관련 자료를 바탕으로 하며, 이들은 이번 결별이 완전히 양측이 원하는 것은 아니었다는 것을 보여줍니다. 심지어 한 차례 내부 대화에서 그레이엄은 YC 동료들에게 "그를 해고하기 전까지, Sam은 계속해서 우리에게 거짓말을 했다"고 말한 적도 있습니다.

OpenAI의 미션 드리프트: 안전 중시에서 비즈니스 중시로

2015년 5월, 알트만은 당시 글로벌 부자 순위 약 100위에 해당하는 일론 머스크에게 이메일을 보냈습니다. 많은 실리콘밸리 기업가들과 마찬가지로, 머스크는 그 당시 "존재의 위험"으로 여겨지는 일련의 위협에 큰 관심을 기울이고 있었습니다 — 비록 대부분의 사람들에게는 이들이 먼 미래의 가정일 뿐이었습니다. "우리는 AI에 대해 매우 신중해야 합니다", 그는 이를 트위터에 올려 "AI의 위험성이 핵보다 클 수 있습니다"라고 적었습니다.

알트만은 항상 기술적 낙관주의자였지만, AI 문제에 대한 그의 발언은 곧 더욱 종말론적인 방향으로 전환되었습니다. 머스크와의 공개 연설 및 비공개 메시지를 통해, 그는 이 기술이 이윤 중심의 거대 기업에 의해 독과점되어서는 안 된다고 경고했습니다. "나는 항상 생각해왔습니다, 인류가 AI 개발을 막을 방법은 없을까"라며, "하지만 어쨌든 그 일이 일어날 거라면, Google이 선구자가 되는 것은 좋지 않을 것"이라고 썼습니다. 핵무기에 대한 비유를 빌려 "AI 맨해튼 프로젝트"를 제안했으며, 이를 토대로 "안전은 최우선시 되어야 합니다"와 "분명히 우리는 모든 규제를 준수하고 적극적으로 지지할 것입니다"라고 풀어냈습니다.

이후 그는 Musk와 이 프로젝트의 이름을 정했습니다: OpenAI.

정부가 주도하고 원자폭탄을 만들어낸 맨해튼 프로젝트와는 달리, OpenAI는 초기에 개인 자금을 통해 지원받을 것입니다. Altman은 한 번 초월적인 일반 인공지능(AGI)인 '초급 인공지능'이 현실로 나오면 '우주의 미래 가치피라미드를 포획할 수 있는 정도의' 경제 수익이 창출될 것이라 예측했습니다. 그러나 동시에 그는 잠재적 위험을 반복해서 강조했습니다: 어느 시점에서 이 기술은 국가 안보에 미치는 영향이 너무 커져 미국 정부가 OpenAI를 인수하거나 심지어 국유화하고 관련 시설을 사막의 안전한 기지로 이전시킬 정도가 될 수도 있습니다. 2015년 말까지 Musk는 설득되었습니다. "우리는 10억 달러의 초기 자금 조달을 공표해야 합니다," 그는 썼습니다. "만약 다른 사람들의 기부가 부족하면 나는 보충할 것입니다."

Sam Altman은 OpenAI를 Y Combinator의 비영리 부문에 처음으로 집어넣고 내부 공익 프로젝트로 포장했습니다. 그는 OpenAI에 가입한 구성원들에게 YC 주식을 할당하고 YC 계정을 통해 기부금을 이체했습니다. 한동안 이 연구소는 YC 펀드의 지원에 의존하기도 했으며 Altman은 그 펀드에서 개인 주식을 보유하고 있었습니다. (나중에 Altman은 이 부분적인 지분을 "하찮게 작다"고 지칭하며 직원들에게 할당된 YC 주식이 그의 개인 지분에서 나온 것이라고 밝히기도 했습니다.)

'맨해튼 프로젝트'의 비유는 인재 영입에서도 드러납니다. 핵분열 연구와 유사하게, 기계 학습은 그 시절에도 아직 규모가 작은 과학 분야였지만 시대를 초월하는 잠재적 영향을 가진 소수의 다양한 천재들에 의해 주도되었습니다. Elon Musk, Altman 및 Stripe 출신인 Greg Brockman은 실제로 돌파가 가능한 컴퓨터 과학자 수가 적다고 믿었습니다. 구글은 자금과 시간 측면에서 큰 이점이 있었습니다. "우리는 인적 자원과 자금 면에서 훨씬 뒤쳐져 있으며 큰 괴리가 있습니다," Musk는 나중에 이메일에서 썼습니다. 그러나 그는 또한 "우리가 최고의 인재를 계속 유인하고 방향을 올바르게 유지할 수 있다면 OpenAI는 여전히 이길 것"이라고 믿었습니다.

그 중 가장 중요한 영입 대상 중 하나는 이리야 숯케버였습니다. 억제적이고 긴장감이 높은 성격으로 알려진 연구원으로 당시 그 시대 최고의 재능 있는 AI 과학자 중 한 명으로 평가되었습니다. 1986년 소련에서 태어난 숯케버는 이마가 뒤로 물러가고 눈빛이 깊은 캘 리포니아 출신이며 말하기 전에 자주 긴 시간 멈추어 생각에 잠기는 습관이 있습니다. 또 다른 핵심 인물인 다리오 아모데이는 생물물리학 배경을 가진 활동적인 연구원으로 긴장된 상황에서 자주 흑발을 만지작거리는 습관이 있으며 한 마디 메일에 심지어 한 문장만 있어도 여러 단락의 긴 글로 답장합니다. 두 사람 모두 당시 다른 회사에서 고액의 직책을 보유하고 있었지만 Altman은 그들에게 많은 에너지를 투자했습니다. 그는 나중에 "내가 이리야를 '쫓는'(트래킹) 것 같다"고 농담하기도 했습니다.

머스크의 명성이 더 크지만, 알트만의 방식이 더 부드럽습니다. 그는 아모데이에게 이메일을 보내 主題: 일부 차량 사고에 대해）」 아모데이: 「오, 피해가 없기를 바랍니다.」）와 같이 대화 중에 항상 이러한 안전에 대한 관심을 강조하며 상대방에게 신뢰감을 줬다.

나중에 회사에 합류한 아모데이는 몇 년 동안 알트만과 브록만의 행동을 기록하고 「내가 OpenAI에서 한 경험」（서브 타이틀: 「비밀: 외부 유출 금지」）이라는 제목의 문서로 정리했다. 아모데이와 관련된 200쪽이 넘는 문서들 - 이러한 노트와 내부 이메일 및 메모 등이 컬리컬리 돌아다녔지만 공개적으로 이전에 공개된 적은 없었다. 이 문서들에서 아모데이는 알트만의 목표가 「안전을 핵심으로 한 AI 연구소를 구축하는 것」이었다고 기술했다 「아마 처음에는 아니지만 곧 실현될 것이다」）.

2015년 12월, OpenAI가 공식적으로 발표된 지 몇 시간 만에, 알트만은 머스크에게 한 이메일에서 Google이 「내일 OpenAI의 모든 사람들에게 매우 높은 역제안을 제시할 것으로 소문해」 프로젝트를 직접 찬물로 들이켜려 한다고 언급했다. 머스크는 물었다: 「일리야는 명확한 대답했나요?」 알트만은 Sutskever가 단호한 입장을 보였다고 답변했다. 사실, Google은 Sutskever에게 연봉 600만 달러를 제시했으며, 이는 OpenAI가 따라갈 수 없는 규모였다. 그러나 알트만은 여전히 자신감 있게 말했다. 그러나 알트만은 여전히 자신감 있게 말했다. 「안타깝게도 그들은『 올바른 일을 하는 쪽』을 선택하지 못했다」.

일론 머스크는 오픈AI가 산프란시스코 미션 지역의 구식 여행 가방 공장에 사무 공간을 제공했습니다. 푸츠케버의 말처럼, 당시 직원들의 핵심 동기 부여 슬로건은 '당신은 세계를 구할 것입니다.' 만약 모든 게 순조롭게 이루어진다면, 오픈AI의 창립자들은 인공지능이 '희소성 이후'의 유토피아를 열 것이라고 믿었습니다. 그들은 무거운 노동을 자동화하고 암을 치료하며, 인류에게 더 많은 여가와 풍요를 제공할 것이라고 믿었으나 기술이 주도권을 잃거나 잘못된 손에 들어갈 경우 파괴는 전면적일 수도 있습니다 - 새로운 생물 핵무기나 고급 무인 항공기 떼 등을 만드는 데 사용될 수도 있습니다. 모델이 인간의 감시를 벗어나 비밀 서버에서 자체 복제되어 종결할 수 없을 수도 있으며, 극단적인 경우에는 발전된 인공지능이 전기망, 주식 시장, 심지어 핵 무기 시스템을 제어할 수도 있습니다.

모든 사람이 이러한 판단을 받아들이는 것은 아니지만, Sam Altman은 이러한 위험을 믿는다고 명확히 언급한 적이 여러 차례 있습니다. 그는 2015년 일대에서 블로그에서 초인공 지능이 "과학 소설 작품처럼 본질적으로 악이어야만 하는 것이 아니라도 인류를 파괴할 수 있습니다. 보다 가능성이 높은 상황은 그것이 우리에게 냉담하기 때문에 다른 목표를 달성함에 있어서...우리를 제거할지도 모른다."라고 썼습니다. OpenAI의 창립자는 안전성을 속도로 압도하지 않겠다고 약속하고 회사 기사에 "모든 인류에게 이로움"을 기록했습니다. 그들은 또한 주의를 기울이며, 만약 AI가 기술적으로 가장 강력한 것이 되면, 어떤 단일 통제자도 전례없는 권력을 행사할 수 있게 된다는 것을 감안해봤다 — 그들은 이것을 "AGI 독재"라고 부른다.

머스크가 떠난 이후, Dario Amodei와 같은 연구자들은 Greg Brockman의 경영 스타일에 불만을 품기 시작했습니다. 일부는 그가 강경하게 행동한다고 생각했고; Sutskever에 대한 평가는 "원칙적이지만 조직력이 부족하다"였습니다. CEO가 되는 과정에서 Altman은 회사 내 다른 그룹들에 각기 다른 약속을 한 것으로 보입니다. 그는 일부 연구자들에게 Brockman의 경영 권한을 약화할 것을 약속했지만, 동시에 그는 Brockman과 Sutskever와 "핸드셰이크 협정"에 도달했습니다: 그가 CEO가 될 것을 약속했지만, 두 사람이 합의할 경우, 그는 사임할 것입니다. (Altman은 이 주장을 반박하며 자신이 CEO로 임명된 것에 대한 초대를 받았다고 주장합니다. 세 사람 모두 이 협정이 존재한다고 인정하며, Brockman은 이것이 비공식적이라고 말합니다: "그는 우리 둘 다 요청하면 사임할 것이라고 말했습니다. 사실 우리는 이 아이디어에 반대했지만, 그는 이것이 자신에게 중요하다고 하고 이는 이타적 동기에 의해 이루어졌다고 말합니다.") 나중에, 이사회는 CEO가 사실 자신을 위한 "그림자 이사회"를 설립했음을 알게 되었고, 이에 경악했습니다.

내부 기록에 따르면, 설립 팀은 2017년에 비영리 구조에 대해 의심을 품었습니다. 같은 해 머스크가 통제권을 얻으려는 시도 이후, Brockman은 일기에 "우리는 실제로 비영리를 고수하는 것이라고 말할 수 없습니다...3개월 후 B-Corp으로 전환하면, 그 전의 주장은 거짓일 것이다."라고 썼습니다. Amodei도 초기 노트에서 Brockman에게 그의 최우선 목표에 대해 물었고, 상대방이 "돈과 권력"이라고 대답했다고 기록했습니다. (Brockman은 이 주장을 부인했습니다.) 그의 일기는 상반된 심리를 보여줍니다: 한편으로 "남들도 부유하지 않다면, 나도 부유하지 않아도 된다"라고 쓰여 있고; 다른 한편으로 "내가 정말 원하는 것은 무엇인가?"라고 스스로에게 질문하며, 그 중 하나의 답변은 "재정적으로 10억 달러에 이르는 것"입니다.

2017년, Sutskever는 사무실에서 Google 연구원들이 발표한 "새로운 간단한 네트워크 구조인 Transformer" 논문을 읽었습니다. 그는 그 장치에서 의자에서 일어나서 복도로 뛰어들며 "계속하고 있는 모든 것을 멈추라, 이것이 바로 정답이다"라고 외쳤습니다. 그에게, 이 구조는 OpenAI가 더 복잡한 모델을 훈련시킬 수 있게 해줄 것으로 보였습니다. 이 획기적인 발전을 바탕으로, 최초의 생성식 사전 훈련 Transformer 모델이 탄생했고, 후에 ChatGPT의 시작점이 되었습니다.

알트먼은 초기 구성원들에게 OpenAI가 언제나 순수한 비영리 성향을 유지할 것임을 약속했으며, 이에 많은 프로그래머들이 큰 규모의 월급 삭감을 받고 회사에 합류했습니다. OpenAI는 또한 「오픈필란트로피」로부터 약 3000만 달러의 기부를 받았는데, 이 기관은 효과적인 자타실현주의 운동의 중요한 자금 고리 중 하나로, 가난 지역에 모기장을 배부하는 등의 프로젝트를 장기간 지원하고 있습니다.

일상적인 운영은 주로 브록만과 숮츠케버가 책임지고 있으며, 머스크와 알트먼은 여전히 자신들의 다른 사업에 바쁘기 때문에 일주일에 한 번씩 회사에 나오곤 합니다. 2017년 9월까지 머스크는 점점 안달이 나기 시작했습니다. OpenAI를 영리 조직으로 변신시킬지 논의할 때, 그는 다수의 지배력을 요구했습니다.

알트먼은 여러 날에 걸쳐 한 대응이 변했지만, 항상 주장해 온 것은: 회사가 CEO의 지도하는 체제로 재편될 경우, 그 석좌는 자신이 차지해야 한다는 것입니다. 숮츠케버는 이에 뚜렷히 불안해 했습니다. 그는 자신과 브록만을 대표하여 머스크와 알트먼에게 제목이 "솔직한 생각"인 긴 이메일을 발송했으며, "OpenAI의 목표는 미래를 더 나아지게 하고 AGI 독제를 피하는 것입니다."라고 머스크에게 썼습니다. "그러므로, 당신을 독재자로 만들 수도 있는 구조를 세우는 것은 나쁜 생각입니다." 그는 또한 알트먼에게 유사한 우려를 표현했습니다. "우리는 왜 CEO라는 직책이 당신에게 그토록 중요한지 이해하지 못합니다. 당신의 근본적인 동기를 파악하기 어려워합니다."라고 말했습니다.

"여러분, 이제 지쳤어요," 머스크가 답했습니다. "여러분이 다른 일을 하든가, OpenAI를 비영리 상태로 유지하든가 - 안 그러면 난 여러분이 벤처 기업을 하도록 무료로 후원하고 있는 셈이 되겠군요." 다섯 달 뒤, 불평이 눈에 띄게 나타나자 그는 떠났습니다. (2023년, 그는 영리적인 경쟁사 xAI를 설립했습니다. 다음 해에 알트먼과 OpenAI를 사기 및 자선 신탁 위반으로 고소했으며, 자신이 "세심하게 선동당했다"며, 알트먼이 자신의 AI 리스크 우려를 이용하여 "장기간의 사기"를 저질렀다고 주장했습니다. 이 소송은 현재 진행 중이며, OpenAI는 이에 강하게 반박하고 있습니다.)

기술 능력이 지속적으로 향상되면서, 우리는 알트먼과 브록만을 비롯한 OpenAI 창립 팀을 믿어야 하는가에 대한 논란을 일으켰습니다. 핵심 엔지니어 약 10여 명이 비밀 회의를 개최하여, 창립 팀이 신뢰할 만한 인물인지에 대해 논의했습니다. 이들 회의 중 한 차례에서 직원 한 명이 영국 코미디 그룹 미첼 앤 웹의 풍자 쇼트를 떠올리며 말했습니다 - 동선 전투터에서 한 나치 군인이 갑자기 깨달아 묻는 대사: "우리가 진짜 나쁜 사람인가요?"

2018년까지 Dario Amodei는 창업자들의 동기에 대해 공개적으로 의문을 제기하기 시작했습니다. 그는 나중에 노트에 기재하면서 다음과 같이 썼습니다. "모든 것이 계속되는 자금 조달 계획처럼 보였습니다. 나는 OpenAI가 정말 필요로 하는 것이 무엇인지 명확히 정의해야 한다고 생각했습니다. 이것이 무엇을 하고, 하지 않아야 하는가, 그 존재가 세상을 어떻게 더 나아지게 하는가." 회사는 이미 "보편적 인공지능이 전 세계 인류에 이로움을 주도록 하는 것"이라는 미션 진술을 가지고 있었지만, Amodei에게는 이 문구가 경영진에게 정확히 무엇을 의미하는지 명확하지 않았습니다.

2018년 초에, 그는 회사 규약 초안을 작성하기 시작했으며 Altman과 Brockman과의 몇 주간의 토론을 통해 가장 과감한 조항을 추가하는 데 주도했습니다. "가치를 공유하고 안전을 중요시하는 프로젝트"가 OpenAI보다 일반 인공지능(AGI)을 더 가까이 달성한다면, 회사는 "경쟁을 중단하고 그 프로젝트를 지원하도록" 할 것입니다. 이것이 바로 "합병과 지원" 조항입니다. 예를 들어, Google이 먼저 안전한 AGI를 구현한다면, OpenAI는 이론적으로 자체를 해산하고 자원을 이전해야 합니다. 전통적인 비즈니스 논리에서 보면, 이는 거의 상상할 수 없는 약속이지만 OpenAI는 이미 전통적인 회사가 되려고 한 적이 없었습니다.

이 전제는 2019년 봄에 현실 검증을 받았습니다. 그 때 OpenAI는 마이크로소프트와 10억 달러 규모의 투자를 논의하고 있었습니다. Amodei(당시 보안팀 책임자)가 빌 게이츠에게 이 프로젝트를 소개하는 데 참여했음에도 불구하고, 팀 내부는 여전히 마이크로소프트가 OpenAI의 윤리적 약속을 약화시킬 수 있다는 염려로 가득 찼습니다. Amodei는 Altman에게 우선순위 목록으로 정리된 보안 요구 사항 목록을 제출하여 "합병과 지원" 조항을 최우선으로 두었습니다.

Altman은 당시 이에 동의했습니다. 그러나 6월 거래가 마무리 단계에 이를 때, Amodei는 마이크로소프트가 OpenAI의 합병을 거부할 수 있는 권한을 부여한 추가 조항을 발견했습니다. "이것은 규약의 80%를 배신하는 것과 같습니다." 그는 나중에 회상했습니다. 그는 Altman에게 직접 질문을 했고, 처음에 상대방이 이 조항이 존재하지 않는다고 부인했습니다. Amodei가 계약 내용을 현지에서 제시하면서 결과적으로 또 다른 동료에게 직접 Altman에게 확인하도록 했습니다. (Altman은 이 사건에 대해 기억이 나지 않는다고 말했습니다.)

안전 파벌의 이탈과 Anthropic의 탄생

Amodei의 노트는 계속해서 격화되는 일련의 긴장을 기록했습니다. 몇 달 뒤 한 회의에서 Altman은 그의 여동생이자 회사에서 안전 및 정책 업무를 맡은 Daniela를 불러, "고위 급료로부터 신뢰할 만한 정보를 얻었다"고 말하며 두 사람이 "쿠데타"를 계획 중이라고 언급했습니다. 노트에는 Daniela가 "즉시 감정을 잃었고" 고위 관리자를 부르고 상대방이 이러한 말을 한 적이 없다고 부인했다는 내용이 포함되어 있습니다. 정보 출처는 나중에 "나는 그런 말을 한 적이 없습니다."라고 부인했다. Daniela는 대답했습니다. "당신은 방금 말했어요."(Altman은 자신의 기억이 다소 다르다고 말하며, 그는 자신이 Amodei가 "정치적인 행위"를 한다고 비난한 것 뿐이라고 말했습니다.) 2020년에 Amodei, Daniela 및 여러 동료들이 그 회사를 떠나 Anthropic을 설립했으며, 현재 OpenAI를 주요 경쟁자로 격차를 좁히고 있습니다.

한편, Altman은 여전히 OpenAI의 안전에 대한 약속을 계속 강조하고 있으며, 특히 잠재적인 채용 대상이 존재하는 경우에는 더욱 그렇다. 2022년 말에, 네 명의 컴퓨터 과학자들이 "소혹성 조정"이라는 위험을 제기하면서 논문을 발표했습니다: 고도로 발전한 모델이 테스트 단계에서는 잘 작동하지만, 실제 배포 후에는 자체 목표를 추구할 수 있다는 것입니다. (이는 일부 실험 조건에서 이미 발생한 사실 같은 상황입니다.) 논문이 게재된 몇 주 후, 그 중 한 명인 캘리포니아 대학 버클리 캠퍼스의 박사 과정 학생이 Altman으로부터 이메일을 받았습니다. Altman은 "비조정 AI"의 위협을 더욱 우려하며, 국제적인 연구 보상 설립과 같은 문제 해결을 위해 10억 달러를 투자할지 고민 중이며, 이 학생이 전에 "Sam이 어떤 면에서 '지루하다'고 들었다"고 하더라도, 이 약속은 결국 그 학생을 감동시켰고, 그는 이를 계기로 학업을 중단하고 OpenAI에 합류했다.

그러나 2023년 봄까지 여러 차례 회의에서 Altman의 태도가 변하는 것으로 보였습니다. 그는 더 이상 보상을 설정하는 대신 내부적인 "슈퍼 조정 팀"을 구축하도록 바뀌었습니다. 공식 발표에 따르면, 이 팀은 "회사가 확보한 연산 자원의 20%"을 받게 될 것이며, 이 자원의 가치는 10억 달러를 초과할 수 있습니다. 공지는 동시에, 조정 문제를 해결할 수 없을 경우 AGI가 "인류를 약화시키거나 소멸시킬 수 있다"고 강조했습니다. 이 팀을 이끄는 Jan Leike는 나중에 말했습니다: "이것은 실제로 매우 효과적인 인재 확보 수단이었습니다."

그러나 결국 "20% 연산 자원"이라는 약속은 이행되지 않았습니다. 이 팀에 참여하거나 밀접하게 접촉한 네 명은 실제로 할당된 자원이 회사의 총 연산 자원의 1%에서 2%에 불과하다고 전했습니다. 더구나, 한 연구원은 "대부분 '슈퍼 조정 연산 자원'은 실제로 가장 오래되고 성능이 가장 나쁜 클러스터에서 실행되고 있다"고 지적했습니다. 팀 구성원들은 일반적으로 수익 창출 프로젝트에 더 선진적인 하드웨어가 우선적으로 사용되고 있다고 여기고 있습니다. (OpenAI는 이에 대해 부인했습니다.) Leike는 당시 최고 기술 책임자인 Mira Murati에게 이 문제를 제기했지만, 그녀는 이 약속이 처음부터 "현실적이지 않다"고 답변했습니다.

약

이 시기쯤, 한 전 직원은 우리에게 Ilya Sutskever가 "극도로 안전을 강조하기 시작했다"고 전했습니다. OpenAI의 초기에, 그는 재앙적 위험이 합당한 우려라고 생각했지만 아직은 상대적으로 멀었습니다. 그러나 그가 점차 AGI가 이미 가까이 왔다고 믿게 되면서, 이러한 우려가 급속히 증가했습니다. 이 직원에 따르면, 회사의 전체 회의에서 "Ilya가 일어나서, 앞으로 몇 년 동안에는 회사 대부분이 안전을 수행해야할 중요한 단계가 올 것이며, 그렇지 않으면 우리는 망할 것"이라고 말했습니다. 그러나 다음 해, 이 "슈퍼 조정 팀"은 미션을 완수하지 못한 채 해체되었습니다.

이 시점에서 내부 정보에 따르면, 이사회 회원들과 경영진은 Sam Altman 의 숨김과 오도에 대해 심각한 우려을 시작했고, 이는 OpenAI 제품의 안전에 현저한 영향을 줄 수 있습니다. 2022년 12월 회의에서 Altman은 이사회에게 GPT-4의 다중 기능 릴리스가 안전 위원회의 승인을 받았다고 보증했습니다. 이사회 회원이자 AI 정책 전문가인 Helen Toner은 해당 문서를 검토해달라고 요청했으나, 가장 논란이 되는 두 가지 기능 --- 모델 파인 튜닝을 허용하는 기능과 개인 비서로 배치하는 기능 --- 이 실제로는 승인을 받지 않았음을 발견했습니다. 회의 후, 또 다른 이사이자 기업가인 Tasha McCauley는 한 직원에 의해 옆으로 불려들여 "인도의 그 사건을 알고 있는지" 물어보았습니다: Altman은 여러 차례의 이사회 보고에서, Microsoft가 인도에서 ChatGPT의 초기 버전을 필요한 안전 검토를 마치지 않은 채로 출시했던 사실을 언급한 적이 없었습니다. "이 사건은 거의 완전히 간과되었습니다," 당시 OpenAI 연구원인 Jacob Hilton이 말했습니다.

이러한 문제들이 직접적인 안전 사고를 유발하지는 않았지만, 또 다른 연구원인 Carroll Wainwright는 이러한 문제들이 "제품 우선, 안전 약화로 이어지는 지속적인 추세를 반영하고 있다"고 판단합니다. GPT-4가 출시된 이후, 보안 업무를 담당하고 있던 Jan Leike은 이사회에 편지를 보내며, "OpenAI가 그 자신의 사명에서 벗어나고 있다. 우리는 제품과 수익을 최우선에 두고 있으며, 그 다음에는 성능, 연구, 확장이 오고, 조직과 안전은 세 번째에 오고 있다"고 지적했습니다. 그는 또한 "Google과 같은 회사가 배우고 있다는 점을 알 수 있습니다 -- 배포 속도를 높이면서도 안전 문제를 무시한다"고 언급했습니다.

McCauley는 이사회 회원들에게 보낸 이메일에서 "감시를 강화해야 할 필요성에 도달했다고 생각합니다." 그러나, 이 문제에 대응하려는 이사회는 명백하게 불리한 입장에 있었습니다. "솔직히 말하면, 그것은 전쟁터 경험이 부족한 그룹이었습니다," 이전 이사회 회원인 Sue Yoon은 말했습니다. 2023년, 회사는 GPT-4 Turbo를 출시 준비 중이었습니다. Sutskever가 메모에서 설명한 바에 따르면, Altman은 Mira Murati에게 이 모델이 보안 검토가 필요없다고 말했으며, 이 판단은 회사 총 법률 자문인 Jason Kwon이 내린 것이라고 언급했습니다. 그러나 Murati가 Kwon에게 Slack에서 물었을 때, Kwon은 "음... Sam이 왜 그렇게 생각했는지 잘 모르겠네요." 라고 회신했습니다. (OpenAI는 이 사실을 "중요하지 않다"고 밝혔습니다.)

잠시 후, 이사회는 Altman을 해고하기로 결정했지만, 이후에 전 세계가 이 결정이 어떻게 신속히 뒤집어졌는지 목격했습니다. OpenAI의 기본 조직도는 아직도 웹 사이트에서 확인할 수 있지만, 회사 지배 문서를 잘 아는 사람들은 그 내용이 거의 의미를 상실한 수준으로 약화되었다고 언급합니다. 작년 6월, Altman은 개인 블로그에서 초인공 인지에 대해 "우리는 이미 사건의 시야를 벗어나, 비행이 시작되었다."라고 썼습니다.

기존 사항에 따르면, 이것은 회사가 경쟁을 중단하고 협력으로 방향을 변경해야 하는 노드였어야 했습니다. 그러나 <The Gentle Singularity>라는 기사에서 그는 새로운 어조를 취해서 "존재 공포"를 "낙관 상상"으로 대체했습니다: "우리 모두는 더 나은 것을 갖게 될 것이며, 우리는 서로를 위해 점점 더 나은 것을 창조할 것입니다." 그는 정렬 문제가 아직 해결되지 않았다는 것을 인정하지만 이를 "불편"으로 재정의하고, 마치 Instagram의 추천 알고리즘에 사로 잡힌 것처럼 이해했습니다.

Altman은 종종 "가장 강력한 이야기꾼"으로 불리며 경외감 또는 의심의 어조로 대해왔습니다. 그가 숭배하는 Steve Jobs는 "현실 왜곡 필드"를 보유한 것으로 알려져 있어 세계가 그의 상상에 부합하도록 절대적인 자신감을 발휘했습니다. 그러나 Jobs조차도 사용자에게 이렇게 말한 적이 없다: 만약 자신의 제품을 구매하지 않으면 인류가 멸종할 것이라고. 2008년, 당시 23세인 Altman은 그의 멘토인 Paul Graham으로부터 이렇게 평가 받았습니다: "그를 식인종의 섬에 공중투하하고 5년 후에 돌아오면, 그는 왕이 되어 있을 것입니다." 이 판단은 당시의 성과를 기반으로 한 것이 아니라, 거의 억제할 수 없는 결단력에서 비롯했습니다.

그러나 가장 가깝게 일했던 사람들 중 일부에게서는, 이러한 특성에는 다른 면도 있었습니다. Sutskever가 AI 안전에 대해 더욱 불안해질 때, 그는 Altman과 Greg Brockman에 관한 일련의 메모를 정리했습니다 - 실리콘밸리에서, 이러한 문서들은 심지어 "Ilya 메모"로 불렸습니다.

한편, Dario Amodei도 기록을 지속하고 있었습니다. 이러한 자료는 '치명적인 증거'를 제시하지 않았지만, 흩어져 있는 것처럼 보이는 하나뿐인 행동 패턴 시리즈를 묘사했습니다: 서로 다른 사람들에게 동일한 위치를 제공하거나, 상충되는 공개 정보를 제공하거나, 보안 절차에 대해 애매하게 대답하는 등. Sutskever의 결론은 이러한 행동이 "AI 안전에 유리한 환경을 구축하지 못한다"는 것이었고, Amodei는 더 직접적으로 "OpenAI의 문제는 Sam 자신에게 있다"고 썼습니다.

우리는 Altman의 행동 방식을 이해하는 백 명 이상을 인터뷰했습니다: 현직 및 이전 OpenAI 직원 및 이사, 그의 동료 및 경쟁자, 친구 및 적 - 실리콘밸리의 이러한 매우 공리주의적인 환경에서 많은 사람들이 종종 여러 역할을 겸비합니다. 누군가는 그의 비즈니스 능력을 옹호하여 Sutskever와 Amodei가 실패한 경쟁자일 뿐이라고 생각하고 있으며, 다른 사람들은 그를 순진하고 부주의한 과학자로 보거나, 심지어는 "종말론"에 사로잡혀 있는 극단주의자로 보고 있습니다. Yoon은 Altman을 "마키아벨리 반대자"로 보지 않고, 자신의 서술에 설득되는 사람으로, "그는 자신의 믿음에 깊이 빠져 있어서 현실 세계에서 이해하기 힘든 결정을 내릴 수 있지만, 결국 그는 현실 세계에 살지 않았다"고 생각했습니다.

그러나 대부분의 인터뷰 대상자들은 Sutskever와 Amodei의 판단과 유사한 결과를 내렸습니다. Altman은 극단적인 권력 의지를 가지고 있으며, 로켓에 자신의 이름을 새긴 산업 거물들 중에서도 특별히 두드러집니다. "그는 '진실'의 제약을 받지 않습니다,"라고 한 이사회 구성원은 말했습니다. "그는 한 번에 두 가지 드물게 동시에 나타나는 특성을 가지고 있습니다. 하나는 강하게 좋아받고 싶어하며, 모든 상호 작용에서 상대방을 기쁘게 하려는 것이며, 둘은 거의 반사회적 성향을 띄며, 다른 사람을 속이는 결과에 대해 거의 관심이 없습니다."

인터뷰 대상자 중 한 명 이상이 자발적으로 '반사회인격'이라는 용어를 사용했습니다. Altman은 Y Combinator의 첫 번째 배치 회원 중 한 명으로, 나중에 2013년에 자살한 프로그래머 Aaron Swartz의 동료였습니다. 그는 친구들에게 Altman에 대한 우려를 표현했으며 "당신은 Sam을 절대로 신뢰해서는 안 된다는 것을 이해해야 합니다. 그는 반사회적 성격을 지니고 있으며, 그는 무엇이든 할 수 있습니다." Microsoft의 여러 경영진들도 Satya Nadella가 Altman을 장기간 지지해 왔지만, 양측 간의 관계가 긴장되고 있다고 밝혔습니다. "그는 오도, 왜곡, 재교섭을 시도하며, 때로는 계약을 뒤집기도 합니다,"라고 한 경영진은 말했습니다. 이번 초반에, OpenAI는 Microsoft가 그들의 '무상태 모델'의 전속 클라우드 공급업체로 남아있다고 재확인했지만, 동일한 날에 500억 달러 규모의 아마존과의 제휴를 발표하여 후자가 기업용 AI 플랫폼의 전속 재판매업체로 지정되었습니다. 이 협정은 계약을 위반하지는 않지만, Microsoft 측은 잠재적인 이해관계 충돌이 존재한다고 판단했습니다. (OpenAI는 계약 위반하지 않을 것이라고 밝혔습니다.) 이 경영진은 심지어 "나는 미래에 그가 Bernie Madoff나 Sam Bankman-Fried와 유사한 인물로 인식될 가능성이 꽤 있다고 생각합니다."라고 평가했습니다.

Altman은 기술적 천재가 아닙니다. 많은 동료들이 그의 프로그래밍 또는 기계 학습 능력이 제한적이며 심지어 기본 개념을 혼동할 수 있다고 봅니다. 그는 OpenAI를 구축하는 데 많은 부분이 다른 사람들의 자금과 기술 자원을 통합하는 데 의존합니다. 이것은 흔한 일입니다. 이것이 바로 기업가의 역할입니다. 더 중요한 것은, 그가 서로 대립하는 엔지니어, 투자자 및 대중을 설득하여 자신의 우선 순위가 또한 그의 우선 순위임을 믿게 만들 수 있는 능력입니다. 이러한 사람들이 그를 막으려고 할 때, 그는 종종 적절한 대화로 그것들을 해소시키는데 성공합니다. 적어도 일시적으로 그러합니다. 그들이 문제를 인지할 때, 그는 이미 목표를 달성했습니다. "그는 자신을 앞으로 제약할 구조를 설계할 것입니다," Wainwright는 말했습니다. "하지만 미래가 실제로 그런 제약이 필요할 때, 그는 그 구조들을 하나씩 허물어 버릴 것입니다."

"그의 설득력은 상상할 수 없을 만큼 강력하며, 마치 제다이의 정신적 통제와 같습니다," 그는 그와 협업한 기술 고위 경영진 중 한 명이 말했습니다. "전혀 다른 수준입니다." AI 정렬 연구에서는 한 가지 고전적인 상상이 있습니다. 인간이 강력한 AI와 대치하면 후자가 거의 항상 승리하며, 마치 국제 체스 대사와 아이의 게임을 하는 것처럼입니다. 이 경영진에게 있어서, '블립' 사건에서 Altman이 다양한 측면을 주름잡는 과정을 지켜보는 것은 마치 '한 대의 AGI가 감옥을 탈출하는 것을 보는' 것과 같았습니다.

해고된 후 몇 날 동안 Sam Altman 은 자신에 대한 지적을 막기 위해 외부 조사를 하지 않도록 계속 애를 쓰고 있었습니다. 그는 두 명에게 자신이 단지 “조사가 있다는 것만으로도 유죄로 보일 수 있다”고 우려한 적이 있습니다. (Altman 은 이 발언을 부인했습니다.) 그러나 사임 요구를 한 이사회원이 “독립적인 조사가 반드시 이루어져야 한다”고 주장한 후, 결국 Altman 은 “최근 사건”에 대한 “검토”를 수행하기로 합의했습니다. 협상에 참여한 소식통들에 따르면, 새 이사 두 명은 이번 검토를 주도할 것을 요구했습니다.

Lawrence Summers 는 정치와 월가 인맥을 바탕으로, 이번 조사에 어떤 신뢰성을 불어넣은 것으로 보입니다. (작년 11월, Summers 가 한 젊은 여성 학생을 구애하고자 할 때, Jeffrey Epstein 에게 조언을 구한 이메일을 통해 공개된 후, 그는 이사회에서 물러났습니다.) OpenAI 는 최종적으로 Enron 과 WorldCom 에 대한 내부 조사를 주도한 유명 로펌 WilmerHale 을 이번 조사를 맡겼습니다.

조사 과정에 가까운 여섯 명의 인사가, 이번 조사는 투명성을 제한하는 식으로 설계된 것으로 보인다고 전했습니다. 일부 사람들은, 처음에 조사 담당자들은 회사 내 일부 핵심 인물들과 연락을 취하지 않았다고 말했습니다. 한 명의 직원은 그를 위해 Summers 와 Bret Taylor 에 항의하기 위해 특별히 연락했습니다. “그들은 이사회 파동이 일어날 때의 그 짧은 기간에만 관심이 있었으며, Sam 의 장기간에 걸친 신의 문제는 신경쓰지 않았습니다,” 라며 그 직원은 자신이 조사 담당자들과 만날 때 느낀 감정을 회상했습니다. 또한, 익명 보호가 부족하다고 느껴 Altman 에 대한 우려를 공유하고 싶어하지 않는 사람도 있었습니다. “모든 징후는 그들이 실제로 원하는 것이 이미 결정된 결론인 것으로 보입니다,” 라며 그 직원은 말했습니다. (그러나 조사 절차에 참여한 일부 변호사들은 “독립적이고 신중하며 포괄적이며 사실이 가리키는 방향으로 진행된” 고 조사를 옹호했습니다. Taylor 역시, 이번 조사가 “철저하고 독립적” 이라고 말했습니다.)

기업 내부 조사의 역할은 종종 결정에 합법성을 부여하는 데 있습니다. 사설 기업에서, 조사 결과가 때로는 서면으로 작성되지 않을 수도 있으며, 이는 종종 법적 책임을 회피하는 한 방법입니다. 그러나 공개 논쟁이 관련된 경우, 외부에서는 종종 더 높은 수준의 투명성을 기대합니다. 2017년, Travis Kalanick 가 Uber 을 떠나기 전에, Uber 이사회는 외부 기관을 고용하고 13 페이지의 조사 요약을 공개했습니다. OpenAI 가 501(c)(3) 비영리 기관이며, 그리고 이번 해고 사건이 그 자체로 매우 공개적인 시점에서, 회사 내 많은 경영진들은 보다 상세한 조사 결과를 기대했습니다. 그러나 2024년 3월까지, OpenAI 는 Altman 이 “면죄” 되었다고 발표했지만, 공식 보고서는 발표되지 않았으며, 약 800 단어로만 “신뢰가 무너졌다” 는 것을 공식 웹사이트에서 인정했습니다.

심지어 전 동료들도 후속적 영향을 받게 됩니다. 미라 무라티는 2024년 OpenAI를 떠나 자신의 AI 스타트업을 설립하기 시작했습니다. 그 후, 알트만의 가까운 동맹인 조시 쿠슈너가 그녀에게 전화를 걸었습니다. 그는 먼저 그녀의 리더십을 칭찬한 뒤 이상한 협박 같은 어조로 자신이 그녀의 '명예'에 '걱정'하며 언급하면서 일부 전 동료들이 이제 그녀를 '적'으로 여기고 있다고 말했습니다. (쿠슈너는 대변인을 통해 이 대화가 '전체 맥락을 제대로 보여주지 않았다'고 말했으며, 알트만은 이 전화에 대해 자세한 사항을 모르는 것으로 알려졌습니다.)

CEO로 일하게 된 초기에 알트만은 OpenAI가 비영리 조직이 보유하는 '최대 이익' 회사를 설립할 것이라고 발표했습니다. 이런 복잡하고 엉뚱한 회사 구조는 알트만이 직접 설계한 것으로 보입니다. 전환 과정에서 홀덴 카르노프스키라는 이사는 이러한 계획이 비영리 조직의 가치를 심각하게 과소평가했다고 반대의견을 제기했습니다. "내 마음 가짐으로는 동의할 수 없어,"라고 카르노프스키는 말했습니다. 당시 기록에 따르면 그는 반대표를 던졌습니다. 그러나 이사회 변호사가 그의 반대가 '새로운 구조의 합법성에 대한 추가 조사 신호가 될 수 있다'고 말한 후 그의 투표는 결국 기권으로 기록되었으며, 그의 동의를 받지 않은 듯한 상태로 나타났습니다 - 이는 법적으로 심지어 비즈니스 레코드 조작을 이루고 있을 수 있습니다. (OpenAI는 카르노프스키가 기권표를 던졌다고 기억하는 직원들이 많았으며, 이를 입증하는 회의록을 제공했다고 전했습니다.)

작년 10월, OpenAI는 '자본 재편'을 완료하여 이제 이윤을 추구하는 기업이 되었습니다. 회사는 연관된 비영리 조직인 OpenAI Foundation이 '역사상 가장 풍요로운 자원을 보유한' 기관 중 하나가 될 것이라고 공표했습니다. 그러나 현재 이 기금은 회사의 26%의 주식을 보유하고 있으며, 그 이사들 중 한 명을 제외하고는 모두 이윤을 추구하는 이사회 이사입니다.

국회 청문회에서 알트만은 '많은 돈을 벌었냐'는 질문을 받았습니다. 그는 'OpenAI에서는 어떤 주식도 가지고 있지 않습니다... 나는 이것을 사랑해서 하는 것입니다'라고 대답했습니다. Y Combinator와 관련된 기금을 통해 간접적으로 지분을 보유하고 있는 그의 이러한 대답은 매우 신중스럽게 보입니다. 기술적으로, 이 문장은 여전히 사실입니다. 그러나 알트만을 포함한 여러 명의 증언자들에 의하면 이러한 상황은 곧 변할 가능성이 높습니다. "투자자들은 '상황이 어려워졌을 때 당신이 계속할 수 있는지를 알고 싶어합니다,"라고 알트만은 말했지만, 그는 현재 '진행 중인 토론은 없다'고 덧붙였습니다. 법정 보고서에 따르면 그렉 브록먼의 지분은 약 200 억 달러이며, 알트만의 지분은 원칙적으로 그보다 높아야 합니다. 그럼에도 불구하고 알트만은 우리에게 부자되는 것이 그의 주된 동기가 아니라고 전했습니다. 한 명의 전 직원은 그가 말한 한 마디를 기억하며 이야기했습니다. "나는 돈에는 신경 쓰지 않아. 나는 권력에 관심이 있어,"라고.

2023 년, Altman은 할리우드에 있는 자신의 주택에서 Oliver Mulherin과 결혼식을 올렸다. (두 사람은 아홉 년전 Peter Thiel의 집의 야간 수영장에서 만났다.) 그들은 그 자리에서 많은 손님을 접대했으며, 우리가 인터뷰 한 손님들이 묘사한 장면들은 초대형 부자의 삶에서 흔한 범위를 벗어나지 않았다: 사립 요리사가 준비한 저녁 식사, 황혼에 바다를 항해하는 요트. 어느 한 해에는 신년 파티가 진행되었는데, 거기에는 리얼리티 프로그램 '생존자'를 주제로 한 것도 있었다. 사진에는 상체만 노출하고 미소 짓는 남자들의 그룹이 있었는데, 거기에는 프로그램의 진짜 사회자인 Jeff Probst도 포함되어 있었다. Altman은 다른 자신의 소유 주택에서도 소규모 친구 모임을 열었는데, 적어도 한번 행사에서는 열정적인 스트립 포커 게임까지 한 적이 있었다. (유출된 한 장의 사진에는 Altman은 나오지 않았고, 누가 최종 승리했는지 알 수 없지만, 적어도 세 명의 남자가 패배한 것으로 보인다.) 우리가 인터뷰 한 많은 전 손님들은 한 가지를 강조했다: 그는 정말로 관대한 주인이라는 것이다.

조사에 참여한 인사들은 어떤 보고서도 게시하지 않은 이유는 사실 보고서가 형성되지 않았기 때문이었다. 이러한 조사 결과는 Summers와 Taylor에게 구두로 간략하게 전달되었을 뿐이었다. "이 감사에서는 'Sam은 워싱턴처럼 체리나무를 베었다'는 결론을 내린 적이 없다,"라고 한 조사에 가까운 인물이 말했다. 그러나 전반적으로 볼 때, 이 조사는 Altman의 해임의 "품위 문제"를 본질로 삼지는 않았던 것으로 보인다. 대부분의 에너지는 오히려 명확한 형사적 범죄 행위 여부를 찾는 데 집중되었으며, 이 기준에 따라 조사는 최종적으로 그가 CEO로 계속 일하게 될 수 있다는 결론을 내렸다. 잠시 후, Altman이 해고될 때 상실한 이사직도 그의 손으로 돌아왔다. 내부자들은, 조사 결과를 문서로 정리하지 않은 것은 Summers와 Taylor 각자의 개인 변호사들의 제안 때문이기도 했다고 밝혔다. (Summers는 이에 대해 공개적으로 의견을 제시하지 않았으며, Taylor는 이미 구두로 간략한 보고서가 있기 때문에 "공식 서면 보고서를 다시 내야 할 필요가 없다"고 말했다.)

많은 현직 및 전직 OpenAI 직원들은 우리에게 정보의 공개 부족에 대해 충격을 받았다고 전했다. 그에 반해 Altman은 자신의 재직 후 이사회에 합류한 모든 멤버가 이러한 구두 롤보고를 들었다고 말했다. "이것은 완전한 거짓말이다," 직접적으로 사건을 이해한 한 사람이 말했다. 일부 이사들은 "조사 결과"에 대한 신의성에 대한 계속되는 의문으로 인해 앞으로 심지어 "재조사가 필요할지도 모른다"고 말했다.

서면 기록이 없기 때문에 이러한 주장들을 경시하기가 더 쉬워졌다. 한편으로는 Altman의 실리콘밸리 지위가 계속 상승함에 따라, 외부의 이러한 문제들에 대한 조사가 더욱 약화되고 있다. 이와 함께, Altman의 권력은 그의 투자 네트워크에서도 유래되는데, 이러한 네트워크는 때로는 사적 생활까지 확장된다. 그는 이전 여러 파트너들과 재무적인 관계를 맺어왔는데, 일부는 공동으로 펀드를 운영하고, 일부는 그가 주도했던 투자에서 공동 투자하며, 일부는 빈번하게 공동 투자했다. 실리콘밸리에서 이러한 일은 희귀한 일이 아니다. 많은 이성애자 임원들도 이와 같은 방식으로 자신의 연인이나 성적 파트너와 일을 한다. ("당신은 이렇게 해야 합니다,"라고 한 유명 CEO가 우리에게 말했다.) Altman 본인은 "분명히 제가 이별 후에 몇몇 전 파트너들과 함께 투자한 적이 있고, 나는 이게 아무 문제가 없다고 생각한다,"고 말했다. 그러나 이러한 배열 자체가 매우 높은 수준의 의존성을 만들어낸다. "이는 본질적으로 매우, 매우 강한 의존성을 만들어낸다," Altman에 가까운 한 사람이 말했다. "많은 경우, 평생에 걸쳐서 심지어 그 의존성을 만들어낼 수 있다."

그럼에도 불구하고 Sam Altman 주변의 다양한 소문들은 경쟁사들에 의해 악용되거나 왜곡되었습니다. 치열한 비즈니스 경쟁은 새로운 것이 아니지만, 인공지능 산업 내부의 경쟁은 매우 잔인해졌다고 합니다. OpenAI의 한 수석직원은 이를 "셰익스피어식의"로 설명하며, "게임의 표준 규칙이 더 이상 적용되지 않는 것 같습니다." 일부는 Elon Musk와 직접적으로 연관이 있는 사람들 중 일부는 때로 그의 후원을 받은 적도 있으며, Altman에 대한 "상대방 인텔리전스"에 대해 수십 페이지에 걸친 자료를 유포했습니다. 이 자료에는 Altman과 관련된 쉘 회사, 밀접한 연락처 정보, 심지어 동성애 클럽에서 성노동자로부터의 인터뷰 기록까지 모두 드러났습니다. 이 중 한 명의 중개인은 Altman의 비행 일정과 참석한 파티까지 추적당하고 있다고 주장했습니다. Altman은 "나보다 더 많이 사립탐정에게 조사당한 사람이 없을 것"이라고 우리에게 말했습니다.

한편, 다양한 극단적인 주장들도 확산되고 있습니다. 우파 매체인 Tucker Carlson은 증거 없이 Altman과 고발자의 사망 사이에 연관이 있다는 뜻을 비치하였으며, 이러한 주장들은 경쟁사들에 의해 계속해서 과장되고 있습니다. Altman의 여동생 Annie는 한 소송과 우리와의 인터뷰에서, 자신이 세 살 때부터 형제가 열두 살이었을 때까지 성폭행을 당했다고 주장했습니다. (우리는 Annie의 주장을 확인할 수 없었습니다. Altman은 이를 부인하였으며, 그의 어머니와 동생들도 이러한 주장을 "완전히 사실이 아니라"고 말하며 "가족 전체에 큰 고통을 안겼다"고 언급했습니다. 기자인 Karen Hao가 집필한 "Empire of AI"를 위한 인터뷰에서, Annie는 이러한 기억이 성인이 된 이후 "과거 속의 순간"에서 회복되었음을 설명했습니다.)

게다가, 다수의 경쟁사와 투자 기관 출신 인사들도 Altman이 미성년자와 관련된 성 행위에 연루되었다는 점을 암시했습니다. 이는 실리콘밸리에서 널리 퍼진 주장인데, 이 또한 사실이 아닌 것으로 보입니다. 우리는 수개월에 걸쳐 조사를 진행하였고, 수십 차례의 인터뷰를 진행했지만, 이러한 주장을 뒷받침하는 증거를 찾지 못했습니다. Altman은 이에 대해 "이는 혐오스런 행위이며, 나는 이를 제기한 경쟁사들이 향후 사건에서 '배심원단을 오염시키는' 일환이라고 생각합니다. 매우 황당하게 들리지만, 나는 명확히 명시하고 싶습니다: 나에 대한 미성년자와의 성관계, 성노동자 고용, 또는 살인에 관련된 어떠한 주장도 완전히 사실이 아닙니다."고 말했습니다. 그는 또한 우리가 이러한 문제에 대해 "몇 달 동안 지식 조사를 하여준 것이" 자신에게 "어느 정도는 고마웠다"고 덧붙였습니다.

Sam Altman은 승인된 연령의 젊은 남성과 교제한 적이 있다고 인정하였습니다. 우리는 그의 일부 파트너들과 인터뷰를 진행했으며, 그들은 이에 대해 문제가 없다고 밝혔습니다. 그러나 Elon Musk 측 중개인들의 "상대방 파일"은 이 점을 고의로 공격 대상으로 만들었습니다. (이 자료에는 "트윙크 군단"과 "후원자의 성적 취향"과 같이 과장된 것으로 확인되지 않은 주장도 포함되어 있습니다.) Altman은 이에 대해 "이 안에는 과장된 동성애 혐오가 있습니다."라고 말했습니다. 기술 기자인 Kara Swisher도 이견에 동의했는데, "이 같은 부-rich 사람들이 여러 가지 엉뚱한 일을 해왔는데, Sam에 관한 얘길 들어본 어느 것보다 달랐습니다. 그러나 그는 샌프란시스코의 한 동성애 남성이며, 이것이 무기로 사용되었습니다."

지난 10년 동안, 소셜 미디어 기업 임원들은 세상을 "변화시킬" 수 있다고 약속했었으며, 규제가 필요하다는 입법자들을 "바보"로 비난하며, 이에 따른 양당의 불만을 촉발했습니다. 반면에, 알트먼의 이미지는 특히 "의식적"으로 나타났습니다. 그는 규제를 회피하지 않을 뿐만 아니라, 규제를 적극적으로 요구했습니다. 2023년 미국 상원 법 사법 위원회에 증언할 때, 그는 고급 AI 모델을 감독하기 위한 새로운 연방 기관 설립을 제안했습니다. "이 기술이 문제가 되면 결과가 매우 심각할 것입니다," 그는 말했습니다. 기술 기업 CEO들에게 예리한 평가로 유명한 미국 루이지애나 주 상원의원 존 케네디조차 이 제안에 대해 꽤 인정적으로 다가왔습니다. 반장께서는 반장이 직접 감독을 맡는 것이 좋을지도 모른다는 농담을 하였습니다.

그러나 공개적으로 규제를 환영하는 동시에, 알트먼은 비공개로 규제에 반대하고 있습니다. 타임즈 보도에 따르면, 2022년부터 2023년까지 OpenAI는 유럽연합의 대규모 AI 기업에 대한 규제 제안을 "저하"시키는 데 성공했습니다. 2024년 캘리포니아 주 의회는 AI 모델에 대한 안전 테스트를 요구하는 법안을 제출했으며, 이 법안의 많은 조항들이 알트먼이 의회에서 주장한 내용과 매우 유사합니다. OpenAI는 이 법안에 공개적으로 반대하고 있으며, 비공개로 압력을 가하고 있습니다. "작년에 우리는 OpenAI의 행동이 점점 교활해지고, 혼동스러워지고 있다는 것을 목격했습니다," 한 명의 입법조수가 우리에게 말했습니다.

한편 머스크는 여전히 알트먼을 공격하며, 그를 "사기 알트먼"과 "사기 샘"이라고 불렀습니다. (알트먼이 테슬라의 문제로 X에서 불평할 때, 머스크는 "넌 비영리 단체를 훔쳤어"라고 대답했습니다.) 그러나 워싱턴에서, 알트먼은 오히려 우세한 지위를 취하고 있는 것 같습니다. 머스크는 도널드 트럼프가 다시 당선되도록 25억 달러 이상을 투자하고, 백악관에 짧게 잠정적으로 근무한 후 떠났지만, 그 후에 관계가 약해졌습니다.

지금은 알트먼이 트럼프가 인정하는 기술 거물 중 한 명으로 떠올랐으며, 심지어 윈저 성을 방문할 때도 동행했습니다. 두 사람은 매년 수차례 전화를 합니다. "그에게 직접 전화를 걸 수 있지," 알트먼은 말합니다. "우린 그런 친구 관계가 아니지만, 뭔가를 이야기해야 한다면 그에게 전화할 거야." 지난해 트럼프는 백악관에서 기술 리더들을 초대했을 때 머스크가 불참했고, 알트먼은 대통령의 맞은 편에 앉았습니다. "샘, 넌 큰 존재야," 트럼프가 그에게 말했습니다. "넌 이전에 나에게 믿기 힘든 얘기를 했어."

투자자 론 컨웨이는 낸시 펠로시와 개빈 뉴솜을 포함한 정치인들을 설득하여 상기 법안을 거부하도록 하였습니다. 결국, 이 법안은 양당 지지로 통과했지만, 뉴솜에 의해 거부되었습니다. 올해 일부 AI 규제를 지지하는 국회 후보자들은 오히려 "미래를 선도한다"고 하는 친 AI 슈퍼 PAC에 의해 후원자들과 마주하고 있습니다. OpenAI는 이와 같은 단체에 기금을 지원하지 않겠다고 밝혔지만, 그 공동 창립자 그렉 브로크만은 5000만 달러를 기부할 것을 약속했습니다. (동시에, 그와 그의 아내는 트럼프를 지원하는 super PAC에 2500만 달러를 기부했습니다.)

OpenAI의 행동은 전통적인 로비 이상입니다. 지난해 캘리포니아 상원이 법안 개정안을 제안할 때, 초안 작성에 참여한 공익 단체 변호사 Nathan Calvin은 집에서 저녁 식사를 하던 중 OpenAI로부터 갑작스럽게 소환장을 받았습니다. 회사는 Musk가 비판자를 비밀리에 지원했는지 조사하기 위한 것이라고 주장했지만, Calvin에게는 해당 법안에 대한 모든 개인 통신 내용을 제공하라고 요청했습니다. "그들은 우리가 Musk로부터 돈을 받았는지 직접 묻는 게 가능했을 텐데 — 저희는 전혀 받지 않았습니다,"라고 그가 말했습니다. 법안을 지지하는 다른 사람들과 OpenAI의 상업화 전환을 비판하는 사람들도 유사한 소환장을 받았습니다. "그들은 이들을 위협하여 입 다물게 만드려는 것입니다,"라는 공익 단체 책임자 Don Howard가 말했습니다. (OpenAI는 이를 정상적인 법적 절차로 설명했습니다.)

정치적으로 Altman은 장기간 민주당을 지지해왔습니다. 그는 "약자를 짓밟는 강자들이 공포 서사를 이용하는 것을 매우 경계합니다 — 이것은 제 유대인 배경 때문이며 제 성 정체성 때문이 아닙니다,"라고 말했습니다. 그는 2016년 Hillary Clinton을 지지하며 Trump를 "미국에게 전례 없는 위협"이라고 했습니다. 2020년에는 민주당과 바이든 선거 기금에 기부했습니다. Joe Biden이 대통령이 된 이후, 그는 여러 차례 백악관에 들어가 정책 논의에 참여하고 최초의 연방 수준 AI 안전 규제 틀을 촉진하는 데 돕습니다.

그러나 2024년이 되면서 바이든의 지지율이 하락함에 따라 Altman의 입장은 변하기 시작했습니다. "선거 결과에 상관없이 미국은 문제가 없을 것입니다." 트럼프가 당선되자, 그는 그에게 취임 기금을 100만 달러 기부하고 취임식에서 인터넷 스타 Jake와 Logan Paul과 같이 사진을 찍었습니다. X에서 그는 "최근 @potus를 더 집중적으로 관찰했는데, 정말로 그에 대한 제 생각을 변화시켰습니다 (일찍 독립적으로 사고했으면 좋겠어요...)."라고 썼습니다. 트럼프는 취임 첫 날 바이든 시대의 AI 행정 명령을 폐지했습니다. 한 전 정부 고위 관리자는 "그는 효과적인 방법을 찾아 트럼프 정부를 이용했습니다"라고 평가했습니다.

여러 해 동안 Altman은 AGI 연구를 "맨해튼 프로젝트"로 비유했습니다. J. Robert Oppenheimer가 과학자들을 결집시킨 "나치와의 대결"의 임무로 작품을 이끌었던 것처럼, Altman도 지지를 얻기 위해 지리적 정치적 경쟁의 서사를 활용했습니다. 다양한 청중을 대상으로 그는 이 유추를 유연하게 사용했습니다 — 때로는 가속을 강조하고 때로는 신중함을 강조합니다. 2017년 여름, 미국 정보 당국자들과의 회의에서, 그는 중국이 "AGI 맨해튼 프로젝트"를 시작했다고 주장하며 이를 통해 정부 자금 지원을 얻으려고 했습니다. 그에게 증거를 제시하라는 요구가 있을 때, 그는 "몇 가지 일을 들은 것"이라고만 말했지만 구체적인 근거를 제시하지 못했습니다. 조사에 참여한 한 관리자는 후에 "관련 프로젝트를 발견하지 못했다"고 말했습니다. "이는 판매 수법에 가까웠습니다."라고 말했습니다. (Altman은 자신이 이렇게 발언한 것을 기억하지 못했다고 말했습니다.)

안전에 보다 관심이 많은 청중에게는 국제 조정의 중요성을 강조했습니다. 2017 년, Amodei는 공익 변호사인 Page Hedley를 정책 및 윤리 컨설턴트로 영입했습니다. 내부 프레젠테이션에서 Hedley는 AI 군사 경쟁을 피하기 위해 NATO와 유사한 국제 조정 메커니즘을 구축함으로써 제안할 수 있다고 제안했습니다. 그러나 그녀가 회상한 바에 따르면 Brockman은 이에 별 관심을 가지지 않았습니다: "내가 뭐라고 하든 그는 항상 한 가지 질문으로 돌아가기만 했습니다. '우리는 어떻게 자금을 조달하나요? 어떻게 승리하죠?'" 다수의 인터뷰와 기록에 따르면 Brockman은 심지어 또 다른 방법을 제안했습니다: 중미 러시아 사이에서 입찰을 유발하여 이익을 얻는 것입니다 — "핵무기 시대가 그런 식으로 작동할 수 있다면, 왜 AI는 안 될까요?"

당시 그는 충격을 받았습니다: "그들은 심지어 이 전제를 부정하지 않았습니다. '우리가 가능성이 있는 기술 역사상 가장 파괴적인 기술을 노동자 프로파일 Vladmir Putin에게 판매하면 어떡하죠?'"(그렉 브록만은, 그는 결코 AI 모델을 다른 나라 정부에 "경매"하려는 의도를 심각하게 고려한 적이 없다고 말합니다. "당시에는 단지 국제 우주 정거장과 같은 AI 협력 메커니즘과 같은 몇 가지 협력 프레임 워크에 대해 고찰했다고합니다," OpenAI 대변인은 말합니다. "이 문제를 다른 것으로 묘사하는 것은 전혀 사실이 아닙니다.")

브레인스토밍은 종종 어색한 아이디어를 도출할 때가 있습니다. Page Hedley는 처음에는 이후 내부에서 "국가 계획"이라고 불리게 된 이것이 곧 중단될 것이라고 희망했습니다. 그러나 참가자들의 명언과 당시의 기록에 따르면, 오히려 OpenAI의 임원들은이 아이디어에 더욱 흥분했습니다. 정책 책임자였던 Jack Clark는 Brockman의 목표가 "모든 국가가 우리에게 자금을 제공하도록 갇힌 감옥 상황을 만드는 것"이었으며, "이러한 구조에서 자금을 제공하지 않는 것 자체가 위험한 일이 될 것"이라고 말했습니다. 주니어 연구원 한 명은 회사 회의에서이 계획에 대한 자세한 설명을 들었을 때 진짜 한마디를 생각했다고합니다. "완전히 미친 소리야."

임원들은 심지어이 계획을 최소한 한 후원자와 논의했습니다. 그러나 그 달 후반, 여러 명이 퇴사 의사를 표명한 이후에이 계획은 중단되었습니다. "Sam은 팀원들을 잃을 것입니다," Hedley는 말합니다. "나는 그것이 그의 저울에서 항상 '이 계획이 대국 간 갈등을 일으킬 가능성이 있기 때문에 합리적이지 않다'보다 중요하다고 느꼈습니다."

“국가 계획”이 막힐지라도 Sam Altman은이 아이디어의 변종을 포기하지 않았습니다. 2018 년 1 월, 그는 로스앤젤레스의 Hotel Bel-Air에서 “AGI Weekend” 행사를 개최했습니다. 이 할리우드 스타일의 리조트 호텔은 분홍빛 삼각꽃원과 하얀 백조가 있는 연못으로 유명합니다. 참석자로는 옥스포드 대학 철학자이자 AI 위험 "예언자" 닉 보스트롬, 아랍에미리트 AI 추진자 오마르 알올라마, 적어도 일곱 명의 억만장자가 포함되어 있습니다. 안전 문제에 관심이 있는 사람들에게는이 행사가 "AGI의 도래에 대비하는 방법"을 논의하는 기회로 묘사되었으며, 투자자들은 자금 조달로드쇼를 기대했습니다.

주간 행사는 현대식 회의실에서 진행되었으며 참가자들은 강연을 번갈아하며 진행했습니다. (Reid Hoffman 심지어는 「불교의 자비」가 AI에 코딩되는 방법에 대해 이야기했습니다.) 마지막으로 무대에 오른 사람은 Altman으로, 그는 자금 조달 계획을 제시했습니다: 전 세계적으로 암호화폐를 발행하여 「AGI의 주의를 교환」할 수 있게 합니다. 그의 발상에 따르면, 한번 AGI가 극한으로 유용해지고, 그리고 「악의를 벗어나게」 되면, 전 세계 사용자들은 모두 OpenAI 서버 사용 시간을 구매하기 위해 경쟁할 것입니다. Dario Amodei는 메모에 다음과 같이 적었습니다: 「이 아이디어는 표면상 극도로 터무니없어 보입니다 (블라디미르 푸틴도 이 토큰을 소유하게 될까요?...) 돌아보니, 이것은 제가 더 진지하게 취급했어야 했던 많은 경고 신호 중 하나였습니다.」 이 계획은 자금 조달 수단으로 보이지만 Altman은 이를 AI 안전의 일환으로 포장했습니다. 그의 한 장의 프레젠테이션 슬라이드에는 다음과 같이 적혀 있습니다: 「나는 가능한 한 많은 사람들이 '올바른 쪽'에 서 있기를 바라며 마침내 승리하길.」 또 다른 페이지에는 다음과 같이 기술되어 있습니다: 「강연이 끝날 때까지 웃음을 참아주세요.」

Altman의 자금 조달 이야기는 수년 동안 계속 발전해 왔지만, 항상 하나의 핵심 현실을 중심으로 펼쳐졌습니다: AGI 개발에는 엄청난 자본이 필요합니다. 그는 상대적으로 간단한 「규모의 법칙」을 따랐습니다 — 모델 훈련에 사용되는 데이터와 컴퓨팅 리소스가 많을수록 모델의 지능이 더 뛰어납니다. 이 프로세스를 지지하는 전용 칩의 비용은 매우 높습니다. 최근 한 라운드에서만 OpenAI는 1200 억 달러 이상을 조달했으며, 이는 사유·공개 자금 조달 역사상 최대 규모이며 심지어 최대 IPO의 네 배입니다. 「연간 수천 억 달러를 자유롭게 사용할 수 있는 당사자에 대해 이야기할 때, 전 세계적으로는 극히 소수뿐입니다,」라고 한 기술 투자자가 말합니다. 「미국 정부, 몇몇 대형 기술 기업, 사우디 아라비아 및 아랍에미리트, 이것뿐입니다.」

Sam Altman, 아직 해결되지 않은 위험 변수

금고를 찾아라: 지정학적 겜블링

Altman은 처음에 사우디 아라비아에 관심을 가졌습니다. 그는 2016년 샌프란시스코 페어몬트 호텔에서 이 나라의 왕세자이자 사실상의 지배자였던 모하메드 빈 살만을 처음 만났습니다. 그 이후로는 Hedley의 추억에 따르면, Altman은 종종 그를 「친구」라고 불렀다고 합니다. 2018년 9월, Hedley의 메모에 따르면, Altman은 「나는 사우디 주권 펀드(PIF)에서 수백 억 달러를 받아야 할 지 고려 중입니다.」라고 밝힌 바 있습니다.

그러나 한 달 후, 상황이 급변했습니다. 사우디 정부를 비판하는 《워싱턴 포스트》 기자 자말 카술지가 터키에서 살해당하고 사체로 발견되었는데, 이에 대해 외부인들은 보통 왕세자가 시행했다고 여겼습니다. 일주일 뒤, Altman은 사우디의 「미래 도시」 프로젝트 Neom의 고문 위원회에 합류할 것으로 발표되었습니다. 「사업부의 정책 담당자인 Jack Clark는 내가 당시 그에게 권유한 대로 말했습니다. Altman은 처음에 이에 대해 변명했으며, 제러드 커셔가 그에게 사우디가 「저질러지지 않았다」고 보증했다고 말했습니다. (Altman은 이 사실을 기억하지 못했고, 커셔는 당시 양측이 연락을 주고받지 않았다고 말합니다.) 왕세자의 책임이 점점 분명해지면서, Altman은 Neom 고문 위원회에서 최종적으로 철수하게 되었습니다.

그러나 비공개로 한 명의 Altman에게 정책 자문을 제공한 고문은 이 사안을 "일시적인 좌절"로 여기고, 여전히 사우디로부터 자금을 받을 수 있는 여지가 있는지 탐색하고 있다고 회상했습니다. "문제는 결코 '이것이 맞는 일인가'하는 것이 아니라 '우리가 이렇게 했을 때 어떤 결과가 발생하는가? 수출 통제에 걸릴까? 제재를 받을까? 우회할 수 있을까?'입니다."

이 동안 Altman은 또 다른 자금 조달원인 아랍에미리트를 주시하고 있습니다. 이 국가는 현재 15년 계획 중인 석유 경제에서 기술 중심으로의 전환을 시도하고 있습니다. 이 프로젝트는 대통령의 형제이자 국가 정보 수장인 Tahnoon bin Zayed al-Nahyan이 주도하고 있습니다. 그는 국가 AI 그룹 G42를 지휘하고 있으며 약 1.5 조 달러의 주권 부를 관리하고 있습니다. 2023년 6월, Altman은 아부다비를 방문하여 Olama 등 관리자들과 회담을 갖고 정부 지원 행사에서 아랍에미리트가 "글로벌 AI 시대가 시작되기 전부터 이미 미래를 예견했으며" 중동이 전 세계 AI 시스템에서 "핵심 역할"을 맡게 될 것이라 설명했습니다.

만국 기업들에 의한 해만 국가로부터의 자금 조달은 이미 일상적인 활동이 되어 왔습니다. 그러나 Sam Altman이 추구하는 것은 보다 거대한 지정학적 개념입니다. 2023년 가을, 그는 비교적 조용히 인재들을 모집하고 이후 "ChipCo"로 명명된 프로젝트를 계획하였습니다. 아랍에미리트 등 해만 국가들로부터 수백 억 달러의 투자를 유치하여 전 세계적인 대규모 반도체 공장과 데이터 센터를 구축할 것인데, 이 중 일부는 중동에 설립될 예정입니다. 그는 현재 Meta AI 책임자인 Alexandr Wang에게 리더쉽에 합류하라고 제안했으며 Jeff Bezos가 이 프로젝트 책임자로 임할 수 있음을 밝혔습니다. Altman은 아랍에미리트 측에 대규모 투자를 요청했습니다. "내가 알기로는, 이 모든 일은 이사회가 전혀 모르는 상태에서 밀반입되었습니다,"라고 한 명의 이사는 말했습니다. Altman에 의해 프로젝트에 초대된 연구원인 James Bradbury는 "내 첫 번째 반응은 - 이것이 아마 성공할 가능성이 크지만, 나는 그것이 성공하기를 원하는지 확신할 수는 없다"고 회상합니다.

AI 연산 능력은 곧 석유나 우라늄을 대체하여, 세계적인 권력 구도를 결정하는 핵심 자원이 될 것입니다. Altman은 연산 능력이 "미래의 통화"라고 말했습니다. 이론적으로, 데이터 센터가 어디에 위치하는지는 중요하지 않아 보이지만, 많은 미국 국가안보 당국자들은 선진 AI 인프라를 해만 독재국가에 집중 배치시키는 것에 우려를 표명하고 있습니다. 아랍에미리트의 통신 인프라는 중국 정부와 긴밀한 관련이 있는 회사인 후아웨이에 매우 의존적이며, 이 나라는 미국 기술이 베이징으로 유출되었다고 지적되어 왔습니다. 정보 기관들은 아랍에미리트로 수출되는 선진 칩이 중국 엔지니어들에 의해 활용될 수 있다는 우려를 갖고 있습니다. 게다가, 중동의 데이터 센터는 지정 충돌 중에 가장 흔히 공격 대상이 될 가능성이 높습니다 - 최근 이란은 바레인과 아랍에미리트의 미국 데이터 센터를 향해 공격을 감행했습니다. 묘사된 최 극단적 사상에 따르면, 어느 해만군 군주국가든 미국 기업의 데이터 센터를 직접 인수하고, 그것을 이용하여 지나치게 강력한 모델을 훈련시킬 수도 있습니다 - 이는 거의 "AGI 독재"의 현실 버전입니다.

해고 후의 중요한 시기에, Altman이 가장 의지한 사람 중 하나는 Brian Chesky였습니다. 이 Airbnb 공동 창업자는 또한 그의 가장 확고한 지지자 중 하나였습니다. "친구가 심연을 직시하는 것을 지켜보는 것은 나에게 '회사를 진정으로 운영한다는 것이 무엇을 의미하는지'에 대해 다시 생각하게 만들었습니다," Chesky는 우리에게 말했습니다. 그 해, Y Combinator 동문 회의에서 그는 기습 연설을 진행했는데, 그 연설은 두 시간이 넘었습니다. "컬렉티브 심리치료를 하는 것 같았습니다." 핵심적인 의견은 매우 간단합니다: 창업자의 자신의 회사에 대한 직관이 가장 믿을만하며, 당신을 부정하는 모든 사람들은 "가스라이팅을 하고 있는 것" 입니다. "당신이 미쳤지 않다. 심지어 직원들이 당신이 미쳤다고 말하고 있어도," Chesky가 말했습니다. Paul Graham은 이러한 태도를 "창업자 모드"라는 용어로 지정했습니다. "Blip" 사건 이후, Altman은 분명히 이러한 모드에 계속 있었습니다.

2024년 2월, 월스트리트 저널이 ChipCo 계획을 최초로 보도했습니다. Altman은 이를 5조 달러에서 7조 달러에 이를 정도의 연합 실체로 상상했습니다 (그는 심지어 소셜 미디어에서 농담했습니다: "그냥 8조 달러로 해"). 여러 직원들도 이 계획을 처음 알게 된 것은 언론을 통해서였습니다. "모두의 반응은 '잠깐, 이게 뭐야?' 였습니다," Jan Leike는 말했습니다. 내부 회의에서, Altman은 보안 팀이 "토론에 참여했다고" 단언했으며, Leike는 그 후에 그에게 이 계획이 이미 안전 승인을 받았다는 시사를 하지 말라는 메시지를 전송했습니다.

조 바이든 정부 기간 동안, Altman은 기밀 AI 정책 토론에 참여하기 위해 안전 승인을 신청했습니다. 그러나 협조 프로세스의 RAND Corporation 직원들은 "그는 외국 정부로부터 '수천억 달러' 자금을 조달하고 있다"며 우려를 표명했습니다. "UAE은 최근 그에게 차 한 대를 선물했는데요 (아마도 매우 값비싼 것이었을 것입니다)," 한 직원이 썼습니다. 이 인물은 또한 "해당 규모의 해외 금융 거래 관계를 소유하고 있는 사람 중 하나가 안전 승인을 신청한 유일한 사례"라고 지적했습니다. 그리고 당시 승인당국은 승인하지 말 것을 제안했다. 결국 Altman은 신청 프로세스에서 철수했습니다. 관련 토론에 참여한 정부 고위 간부는 "그와 UAE 간의 이러한 과도한 거래적 관계로 많은 사람들이 경계감을 느끼며, 내부에서 많은 사람들이 그에게 완전히 신뢰하지 않습니다"라고 말했습니다.

우리가 Altman에게 Tahnoon bin Zayed al-Nahyan으로부터 선물을 받았느냐고 물었을 때, 그는 "그가 무엇을 선물했는지 구체적으로 언급하지는 않겠지만, 그와 다른 국가 지도자들이...... 실제로 나에게 선물을 한 적이 있습니다"라고 대답했습니다. 그는 회사가 잠재적인 파트너로부터 받은 모든 선물을 공개하는 명확한 정책이 있다고 덧붙였습니다. Altman은 적어도 2대의 슈퍼카를 소유하고 있다: 약 2백만 달러 가치의 흰색 Koenigsegg Regera와 약 2천만 달러 가치의 붉은색 McLaren F1입니다. 2024년에 그는 Regera를 운전하는 모습이 나파 밸리에서 촬영되었는데, 짧은 비디오가 소셜 미디어에서 퍼졌습니다: 그는 낮은 좌석에 앉아 흰색 차체로부터 몸을 내밀고 있었습니다. Musk와 입장이 유사한 투자가 한 명이 그 비디오를 리트윗하며 "나도 비영리를 시작해야겠네"라고 댓글을 남겼습니다.

동안, Altman 은 또한 두 명의 OpenAI 직원을 동반하여 25억 달러 가치의 슈퍼 요트 Maryah에 올라탔다. 이 세계적인 명품 요트에는 헬기 착륙 진행장, 나이트 클럽, 영화관 및 비치 클럽이 갖춰져 있다. 무장 보안 요원들로 둘러싸인 환경에서, Altman의 직원들은 특히 어색하게 느껴졌으며, 적어도 한 명은 후에 동료에게 이 경험이 불안하게 만들었다고 전했다. 그리고 Altman은 이후 X에서 Tahnoon을 "친한 개인 친구"로 묘사했다.

Stargate 상륙: 바이든으로부터 트럼프로의 정치적 전환

Sam Altman은 아직도 Joe Biden 정부와 계속 접촉 중이다. 이 정부는 이전에 민감 기술의 수출에 백악관 승인이 필요하다는 정책을 시행했다. 여러 정부 관계자들은 이러한 만남 이후 Altman의 중동 계획에 불안을 느꼈다. 그들의 설명에 따르면, Altman은 종종 "인공 지능을 새로운 전력으로" 비유했다.

2018년부터, 그는 OpenAI가 Rigetti Computing으로부터 "완전히 이용 가능한" 양자 컴퓨터를 구입할 계획이라고 밝혔다—이 말은 심지어 그 때의 다른 OpenAI 임원들도 놀랄 만큼, Rigetti가 그 목표를 달성하기엔 아직 멀었다고한 것이다. 또 다른 회의에서, 그는 미국이 2026년까지 인공 지능 발전을 지원하기 위해 핵 융합 반응로망으로 이루어진 거대한 네트워크를 구축할 것이라고 주장했다. 한 고위 정부 관리는 이때 "우리의 반응은—만약 핵 융합이 실현된다면, 그게 정말 대단한 소식이 될 것입니다." 결국, 바이든 정부는 그와 관련된 계획을 승인하지 않았다. "우리는 아람엠이 선진 칩을 건설하는 것에 참여하지 않을 것입니다," 미 상무부 한 담당자가 Altman에게 말했다.

하지만 상황은 급격하게 변했다. 도널드 트럼프가 취임하기 전날, 월스트리트저널은 Tahnoon bin Zayed al-Nahyan이 트럼프 가족에게 50억 달러를 지불하여 암호화폐 회사의 주식을 양도했다고 보도했다. 다음 날에, Altman은 트럼프와 25분 동안 대화를 나누었으며, ChipCo와 유사한 프로젝트를 추진하고, 트럼프가 공식 발표할 때 "크레딧을 협조"할 계획이었다. 트럼프가 취임한 둘째 날, Altman은 백악관 로즈벨트홀에서 나타나 Stargate를 시작하겠다고 발표했으며, 이는 미국 내 규모 5000억 달러의 합작 프로젝트로, 거대한 인공 지능 기반 인프라 네트워크를 구축하기 위한 것이었다.

같은 해 5월, AI 기술 수출에 대한 바이든 시대의 제약이 해제되었다. Altman은 트럼프와 함께 사우디 왕실을 방문해 Mohammed bin Salman과 면담했다. 거의 동시에, 사우디는 국가 지원 글로벌 AI 거물을 시작하기로 발표했으며, 국제 협력을 위해 수십억 달러를 투자할 계획이다. 한 주가 채 되지 않아, Altman은 Stargate를 아람엠으로 확장할 계획을 발표했다. 회사는 압다비에 데이터 센터 캠퍼스를 건설할 예정이며, 그 면적은 뉴욕 센트럴 파크의 7배에 달하며, 전체 마이애미의 전력 수요에 거의 필적할 것으로 예상된다.

한 명의 전 OpenAI 임원은 이 과정을 다음과 같이 설명했습니다. "솔직히 말해서, 우리는 어떤 종류의 '외계인 소환' 입구를 건설 중입니다." 그는 설명했고, "현재 이러한 '입구'는 미국과 중국에 존재하며, Sam은 중동에 하나를 추가했습니다." 또한 "이 문제가 얼마나 무서운지에 대해 깨달아야 하는 것이 중요하다고 덧붙였으며, 이는 지금까지 가장 무모한 행동 중 하나입니다."

군사화 전환: OpenAI가 Pentagon 주문을 수주

안전 약속의 약화는 점차적으로 전체 산업의 표준이 되어왔습니다. Anthropic의 창립 초기 핵심 가정은 적절한 구조와 리더십을 통해 비즈니스 압력 속에서도 안전 선을 유지하는 것이었습니다. 이 중요한 메커니즘 중 하나는 '책임있는 확장 정책(responsible scaling policy)'이었으며, 더 강력한 모델이 안전하다는 것을 증명할 수 없는 경우 회사는 훈련을 중단해야 했습니다. 그러나 2월에 회사가 300억 달러를 조달하면서 이러한 약속이 약화되었습니다. 어느 측면에서는 Anthropic이 여전히 OpenAI보다 안전에 중점을 둔다고 말하기는 했지만, 이전 정책 책임자였던 Jack Clark는 "자본 시장 논리는 - 더 빨리 달리라"고 직언했으며, "최종 결정을 내리는 것은 회사가 아니라 전 세계입니다." 지난해 Dario Amodei가 내부 메모에서 회사가 아랍에미리트와 카타르로부터 투자를 모색할 것이며, 이로 인해 "독재가"가 혜택을 입을 수도 있다고 고백한 바 있습니다.

한편, Anthropic는 현실에서도 계속 입장을 조정하고 있습니다. 2024년에 회사는 실리콘밸리에서 가장 강경한 국방 계약 업체인 Palantir와 협력하여 모델 Claude을 군사 시스템에 투입시키고, Pentagon의 고도 기밀 프로젝트에서 유일한 AI 계약 업체가 되었습니다. 지난해 미국 국방부는 추가로 2억 달러 계약을 체결했습니다. 올해 1월, 미군은 자정에 니콜라스 마두로 대통령을 체포하기 위한 작전을 시작했으며, 이때 Claude가 해당 작전의 비밀 부분에 사용되었다고 월스트리트 저널이 보도했습니다.

그러나 긴장 관계가 곧 나타납니다. 몇 년 전 OpenAI는 "군사적 용도"에 대한 전면 금지 정책을 삭제했으며, 이후 Google 및 xAI를 포함한 경쟁업체도 "모든 합법적 용도"를 위해 군사에 모델을 제공하기로 동의했습니다. Anthropic은 완전히 자율적인 무기나 대규모 국내 감시를 지원하지 않겠다는 입장을 고수했으며, 이로 인해 정부와의 협상이 막힌 상황입니다. 2월 말 화요일, 미 국방장관 Pete Hegseth는 Amodei를 Pentagon으로 소집하여 마지막 통고를 내렸으며, 그 주 전 금요일 오후 5시 01분까지 이러한 제약 조건을 취소해야 한다고 명령했습니다. Amodei는 결국 거부했습니다. 그 후 Hegseth는 소셜 미디어를 통해 Anthropic을 "공급망 위험" 기업으로 지정했음을 발표했는데, 이는 일반적으로 외국 적대국과 관련이 있는 Huawei와 같은 회사에만 적용되는 레이블이며, 이는 빠르게 실행에 옮겨졌습니다.

이 결정은 산업을 급격히 뒤흔들었습니다. OpenAI와 Google 수백 명 직원이 Anthropic을 옹호하는 "우리는 분열되지 않을 것이다"라는 공개 서한에 서명했습니다. 내부 메모에서 Sam Altman은 이것이 "전 산업의 문제"라고 말하며 OpenAI와 Anthropic이 유사한 윤리적 경계를 공유한다고 밝혔습니다. 그러나 실제로는 그는 국방부와 적어도 두 날 동안 협상을 진행했습니다. 미 국방부 연구 차관 Emil Michael은 "신속한 대체 솔루션을 찾아야 했고, 그래서 Sam에게 전화를 걸었고, 그는 즉시 도울 것을 흔쾌히 했다 - 그는 나에게는 애국자 같다"라고 말했습니다. Altman은 "나라를 위해 무엇을 할 수 있을까?"라고 물었고 답은 이미 준비되어 있는 듯했습니다. 비록 OpenAI는 기밀 등급 시스템 보안 인증을 아직 받지 못했지만, 500 억 달러 규모의 협력이 금요일 아침에 발표되어 그 기술이 아마존 웹 서비스에 통합될 예정이며, 이는 국방부 디지털 인프라의 중요한 부분입니다. 그 저녁에 Altman은 X에서 미군이 OpenAI의 모델을 사용하기 시작할 것이라고 발표했습니다.

비즈니스 결과적으로 이 결정은 회사에 해를 끼치지 않았습니다. 협력 발표 날, OpenAI는 최신 투자 라운드로 평가액을 추가 1100 억 달러로 끌어올렸습니다. 그러나 대가도 존재합니다. 많은 사용자가 ChatGPT 애플리케이션을 삭제했고 최소한 두 명의 고위 임원이 퇴사했습니다(그 중 한 명은 Anthropic으로 이직했습니다). 내부 회의에서 Altman은 의문을 제기한 직원들에게 불만을 표명했습니다. "너희는 이란을 타격하는 것이 옳다고 생각하고 베네수엘라를 침공하는 것이 잘못된 것이라 생각할 지도 모르지만, 이러한 일들은 너희가 결정해야 할 것이 아닙니다"라고 말했습니다.

회사 내부에서는 몇몇 고위 임원이 여전히 Altman의 리더십 방식에 대한 의문을 품고 있으며, Fidji Simo(현재 OpenAI AGI 전개 책임자)가 후임이 될 수도 있다는 의견을 제기했습니다. 한 사람의 소식통에 따르면 Simo도 내부적으로 Altman이 퇴임할 수도 있다고 생각한다고 합니다.(Simo는 이 주장을 부인했습니다.)

Altman은 자신의 입장 변화를 환경 변화에 대한 적응으로 설명하며 Musk 등이 지적한 "장기간의 속임수"가 아니라고 합니다. "어떤 사람들은 리더가 항상 변하지 않는 입장을 고수하기를 원합니다,"라고 그가 말했습니다. "하지만 우리가 있는 분야는 변화가 매우 빠릅니다." 그는 일부 행동을 "정상적인 비즈니스 경쟁"으로 설명했습니다. 일부 투자자들도 그에 대한 비판이 너무 이상적화되었다고 생각합니다. "일부 사람들은 안전 문제를 과학 소설에 근접하도록 끌어올렸습니다,"라고 투자자 Ron Conway은 말했습니다. "그의 임무는 결과로 측정할 수 있으며, OpenAI의 성과를 보면 그 숫자를 부정하기 어렵습니다."

그러나 실리콘밸리에서는 Sam Altman의 행동이 수용하기 어려운 경영 무질서를 일으켰다고 여기는 사람들도 많습니다. "더 큰 문제는 회사가 실제 운영 수준에서 지배 능력이 부족하다는 것입니다,"라는 한 이사가 말했습니다. 또한, AI의 창조자는 다른 산업 기업 임원보다 엄격한 기준을 받아야 한다는 사람들도 있습니다. 인터뷰한 대부분의 사람들이 동의하는 한 가지는 Altman이 이제는 자신이 처음提출한 기준에 따라 판단받고 싶어하지 않는다는 것입니다.

대화에서 Altman에게 물었을 때, 운영자가 AI 회사를 운영하는 것이 "더 높은 신뢰 요구"를 의미하는지 물었습니다. 이 질문은 원래 간단해야 할 것이었습니다. 과거에는 그의 대답이 항상 명확했습니다. 그러나 이번에는 그가 "사실 많은 산업이 실제로 사회에 엄청난 영향을 미친다고 생각합니다."라며 보충했습니다. (나중에 그는 "네, 이것은 정말 더 높은 신뢰 기준이 필요하며, 매일이 이 책임을 느낄 수 있습니다."라고 덧붙였습니다.)

OpenAI가 처음 설립될 때, "AI를 안전하게 현실로 전달"하는 것이 가장 핵심적인 약속 중 하나였습니다. 그러나 오늘날 실리콘밸리와 워싱턴에서는 이러한 관심 사항이 오히려 짐이 된다고 여겨집니다. 지난해, 현직 미국 부통령이자 전 리스크 투자가인 J. D. Vance는 파리에서 열린 AI 액션 서밋에서 "AI의 미래는 안전에 대한 과도한 염려 때문에 이뤄지지 않을 것"이라고 말했습니다. 다보스포럼에서 전 백악관 AI 및 암호화 담당자였던 리스크 투자가 David Sacks도 안전 문제를 "자해"로 표현하며 미국이 AI 경쟁에서 지는 것을 우려하고 있습니다. 그리고 Altman은 트럼프의 규제 완화 정책을 "매우 신선한 변화"라고 지금은 표현하고 있습니다.

한편, OpenAI 내부의 여러 안전 중심 팀이 해체되었습니다. 슈퍼 얼라이먼트 팀이 해체되기 전에 그 팀을 이끈 Ilya Sutskever와 Jan Leike가 연이어 퇴사했습니다. (Sutskever는 이후 Safe Superintelligence를 설립했습니다.) Leike는 X에서 다음과 같이 썼습니다. "안전한 문화와 절차가 더 눈부신 제품을 위해 후퇴했습니다." 이후에는 "AGI 충격 시뮬레이션"에 대한 팀도 해체되었습니다. 미국 국세청에 제출된 최근 문서에서 OpenAI는 "가장 중요한 활동"을 설명할 때 심지어 "안전"이라는 용어를 더 이상 언급하지 않았습니다. (회사는 "사명이 변하지 않았으며, 여전히 안전 연구에 투자하고 있다"고 말했습니다.) 비영리 단체인 Future of Life Institute의 최신 평가에서 OpenAI는 "생존 수준 안전" 차원에서 F등급을 받았습니다. — 물론, Anthropic(D)와 Google DeepMind(D-)를 제외하면 기타 주요 회사들도 마찬가지로 낙제했습니다.

"내가 전통적인 AI 안전 문제에 대한 직감이 실제로 일치하지는 않습니다," Altman은 말했습니다. 그는 이러한 문제들을 여전히 중요하게 생각하나, 구체적인 조치에 대해서는 애매모호하게 언급했습니다. "계속해서 일부 안전 프로젝트를 수행하거나, 안전과 관련된 프로젝트를 수행할 것입니다." 회사 내에서 "생존 수준 안전"에 집중하는 연구원을 인터뷰해야 한다고 요청할 때 OpenAI 대변인은 "'생존 수준 안전'이라고 말씀하시는 게 무엇인가요? 이것은 명확한 개념이 아닙니다."라고 말하는 식으로 당황스러워했습니다.

이전에는 주변에 배제된 'AI 종말론자'들의 우려가 현실에서 조금씩 구체화되고 있습니다. 유엔 보고서에 따르면, 이미 2020년에 AI 무인기가 리비아 내전에서 치명적인 공격을 실시했으며, 아마도 인간 개입이 없었을 수도 있습니다. 그 이후로 AI의 전세계 군사 작전에서의 역할은 계속 확대되어 왔으며, 이는 현재 미국의 이란에 대한 행동에서도 그러했습니다. 2022년에 한 제약 회사의 연구원들은 약물 발견 모델이 새로운 독소를 찾도록 시도했고, 단 몇 시간 만에 4만 가지 잠재적인 화학 무기를 생성했습니다. 동시에, 더 보편적인 위험 또한 발생하고 있습니다: 사람들이 AI에 더 의존함으로써 '인간 능력 퇴보'가 심화되었으며, 만행하는 AI 콘텐츠로 인해 사기가 더욱 쉬워지고 진실이 더욱 분간하기 어려워졌으며, AI 에이전트들이 감독 없이 독립적으로 행동하기 시작했습니다. 2024년 뉴햄프셔 주 예비 선거 전날, 대량의 유권자들이 Joe Biden 목소리를 모방한 AI 사기 전화를 받았으며, 이러한 유형의 선거 개입은 거의 기술 장벽이 필요하지 않았습니다. 동시에 OpenAI는 '연종 죽음에 대한 고의'를 이유로 일곱 차례 소송을 직면했으며, ChatGPT가 일부 자살 사건 및 살인 사건에 유도 요인으로 작용했다고 주장했습니다. (OpenAI는 반박하며 계속해서 보안 메커니즘을 개선할 것이라고 밝히고 있습니다.)

OpenAI가 잠재적인 IPO를 준비하는 가운데, 외부에서의 의문은 AI가 경제에 미치는 영향에만 집중된 것이 아니라 회사 자체의 재무 구조에도 집중되고 있습니다. 창업 가이버넌스 전문가인 Eric Ries는 산업 내 '순환 거래'를 비판하며(예: OpenAI와 칩 제조업체 간의 협력), 이러한 회계 처리가 과거에는 '사실상 사기에 가까웠을 수도 있다'고 지적했습니다. 한 이사는 솔직히 "회사의 현재 재무적 레버리지는 매우 걱정스럽다"고 말했습니다. (OpenAI는 이 주장을 거부하고 있습니다.)

올해 2월, 우리는 다시 Altman을 만났습니다. 그는 어두운 녹색 스웨터와 청바지를 입고 있었으며, 뒤에는 NASA의 달 탐사차 사진이 걸려 있었습니다. 그는 가끔 다리를 의자 위에 걸치고, 때로는 내려놓았습니다. 그는 자신이 예전에 매니저로서 가장 큰 결점은 충돌을 너무 회피했다는 것이라며 "지금은 직원을 신속하게 해고하는 것에 즐거움을 느낍니다"라고 말했습니다. "또한 직접 말하길 좋아합니다: 우리는 이 방향으로 가기로 했다." 누군가 반대하면 "그 사람은 떠나라"고 했습니다.

그는 미래에 대해 이전보다 더 낙관적입니다. "나는 '승리'를 인류 전체가 크게 발전한 것으로 정의하며, SF 속 미래가 실제로 실현된 것"이라고 말했습니다. "나는 인류에 대한 기대가 매우 높고, 매우 야심 찹니다. 그런데 이상한 것은 실은 나 자신은 별로 야망이 없다는 거죠." 이어서 그는 조금 주저하는 듯이 말했습니다. 그러다가 "재미있어서 하는 거라는 걸 믿는다는 건 아무도 안 믿을 거에요. 그들은 권력이나 다른 뭔가를 얻으려고 하는 거라고 생각할 거에요."

Sam Altman과 밀접한 관계를 맺고 있는 사람조차도 그가 말하는 '인류에 대한 희망'이 어디까지 이어지며 개인적인 야망이 어디에서부터 시작하는지를 구별하는 것은 매우 어려울 것입니다. 그의 가장 큰 능력은 항상 다른 그룹들을 설득하는 데 있었으며: 그가 원하는 것이 바로 그들이 필요로 하는 것이라고 믿게 만들었습니다. 그는 독특한 역사적 순간을 잡았습니다 - 대중들은 기술 산업에 대한 과장된 서사가 경계심을 일으켰지만, 실제로 AGI를 만들어낼 능력이 있는 연구자들은 그 잠재적 결과에 대해 깊은 두려움을 느끼고 있습니다. Altman의 대응은, 이전에는 거의 없던 한 가지 이야기 방식이었습니다: 그는 종말론적인 언어로 AGI가 가져올 수 있는 파괴적 위험을 묘사하면서도, 이를 이유로하여 '그래서 그가 이 기술을 직접 만들어야만 한다'고 주장했습니다. 이것은 사전에 계획된 전략적인 행동이었을 수도 있고, 불확실성 속에서 찾은 기회일 수도 있습니다. 그러나 어떤 경우에도 그것은 효과적이었습니다.

그리고 대화형 AI를 위험하게 만드는 특징들 중 일부는 모두 "결함"이 아니며, 일부는 오히려 시스템 자체의 구축 방식에서 비롯됩니다. 대형 언어 모델은 훈련 과정에서 인간 피드백에 의존하여 최적화되며, 인간들은 종종 "순종적이고 기분 좋은" 답변을 선호합니다. 모델은 결과적으로 사용자에게 아부할 수 있게 되었고, 이 경향은 "아첨"이라고 불립니다. 때로는 진정한 표현에 우선하여 합니다. 게다가, 모델은 "사실을 날조"하기도 합니다, 즉 "환각"이라고 하는 것입니다. 대규모 AI 연구소들은 이미 이러한 문제들을 인식했지만 실무에서는 종종 용인하는 경향이 있습니다. 모델 능력이 향상됨에 따라 이러한 "환각"은 더 설득력 있어집니다. 2023년에 해고되기 직전에 Altman은 이러한 현상을 변론했습니다: 그에게 있어서, 어느 정도의 불확실성이나 실수를 용납하는 것이 오히려 이점을 가져다주는 것이라고 봅니다. "가장 간단한 전략을 취한다면---모델이 '스스로 100% 확신할 수 없는 내용은 결코 말하지 말라'고 요구하는 경우, 그것은 실현 가능합니다," 그는 말했습니다. "하지만 이렇게 하게 되면 더는 사용자가 사랑하는 그 '마법'은 존재하지 않게 됩니다."

[원문 링크]

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia