원본 영상 제목: Inside the Mind of Anthropic CEO Dario Amodei | The Circuit | Extended Interview

원본 영상 출처: Bloomberg Original
원문 편집: Web3 天空之城

편집자 주: Anthropic CEO Dario는 현재 매우 난처한 위치에 있습니다. 한편으로는 세계 최고의 AI 모델을 보유하고 있지만, 다른 한편으로는 미국 정부의 금지 명령 한 줄로 인해 전 세계에서 서비스가 중단되었고, 심지어 팀 내 비미국인조차 사용할 수 없게 되었습니다.

이 사태가 어떻게 마무리될지는 아직 알 수 없으며, Dario가 계속 노력 중이라고 하니, 여러분은 계속 지켜보시면 됩니다. 하지만 이번 최신 Emily 인터뷰를 통해 논란의 중심에 있는 AI 코딩 1위 기업의 수장이 어떤 생각을 가지고 있는지 엿볼 수 있습니다.

현재 실리콘밸리의 권력 지형에서 Anthropic은 극도로 특별하고 긴장감이 넘치는 중심에 위치해 있습니다. OpenAI의 가장 강력한 도전자로서, 가치관 차이로 인해 '탈퇴'를 선택한 최고 연구자들에 의해 설립되었습니다.

CEO Dario가 조명 아래 앉아 AI의 기하급수적 성장에 대해 이야기할 때, 그는 보기 드문, 외과의사처럼 냉철한 모습을 보여줍니다. 이는 단순한 기술 경쟁이 아니라, 신뢰, 안전, 그리고 지적 폭발 앞에서 인류 문명이 어떻게 자리 잡을 것인지에 대한 깊은 게임입니다.

전문 요약

이번 최신 인터뷰는 AI의 기하급수적 성장에 직면한 Anthropic CEO Dario의 심경을 깊이 있게 다루며, OpenAI 탈퇴의 내막, 회사의 비즈니스 모델 선택, AI가 고용 시장, 사이버 보안 및 지정학에 미치는 심대한 영향 등을 포괄합니다.

CEO는 Anthropic이 '장기 이익 신탁'과 같은 메커니즘을 구축하여 권력을 견제하는 방법, 기술 선도를 추구하는 동시에 '레드라인' 설정 및 고위험 모델(예: Mythos) 출시 연기를 통해 안전 가치를 실천하는 방법을 자세히 설명합니다.

참고: Dario의 발언은 항상 동방 대국에 우호적이지 않으니, 각자 판단하시기 바랍니다.

핵심 관점

· AI 업계는 현재 '안정적인 기하급수적 성장' 단계에 있으며, 이러한 성장은 양적 축적이 일정 수준에 도달하면 질적인 폭발을 일으킵니다.

· 신뢰는 AI 업계 협력의 초석이며, Anthropic은 신뢰할 수 있는 참여자들이 연합해 업계 표준을 수립해야 한다고 주장합니다.

· 기업용 비즈니스 모델은 AI 안전 가치와 더 높은 시너지를 보이며, 소비자 시장에서 흔히 발생하는 중독성 및 저품질 콘텐츠 경쟁을 피할 수 있습니다.

· AI로 인한 실업 위험에 대해 사회는 예측하고 거시경제 정책을 수립해야 하며, 동시에 '동일한 자원으로 더 많은 일을 하는' 윈윈 게임을 모색해야 합니다.

· 군사적 응용은 반드시 '인간이 루프 내에 있어야 한다'는 원칙을 고수하며, 대규모 감시 및 완전 자율 무기의 레드라인을 엄격히 지켜야 합니다.

다음은 전체 인터뷰입니다:

기하급수적 성장의 압박과 경험

Emily Chang: 당신의 수면 시간은 얼마나 됩니까?

Dario Amodei: 저는 항상 수면의 질이 좋은 편은 아니었습니다. 그저 비정상적인 압박 속에서도 긴장을 풀고 잠드는 기술을 배우고 있는 중이라고 말할 수 있겠네요.

Emily Chang: 모든 것이 정말 빠르게 진행되고 있습니다. 그 속에 있다는 것은 어떤 느낌인가요?

Dario Amodei: 그것은 기하급수적인 느낌입니다. 마치, 당신이 우주선을 타고 상대론적 속도로 지구에서 멀어지며 가속한다고 가정해보세요. 특수 상대성 이론의 작동 방식은, 당신이 잠들었다 깨어났을 때 지구에서는 이미 이틀이 지나 있다는 것입니다. 따라서 하루 안에 이틀 분의 일을 처리해야 합니다.

그리고 다시 잠들면, 계속 가속하기 때문에 지구에서는 사흘이 지나 있습니다. 그 다음 날은 나흘이 지나 있죠. 대략 그런 느낌입니다.

Emily Chang: 깨어났을 때 무엇을 마주할지에 대한 불안으로 자주 괴로워하나요?

Dario Amodei: 우리가 처리해야 할 명확하고 시급한 문제들은 이미 충분히 많습니다. 저는 이런 문제들을 처리하면서 동시에 어떻게 준비할지 고민하고 있습니다. 하지만 편집증에 빠지거나 깨어났을 때 무엇을 마주할지 걱정하는 것은 도움이 되지 않는다고 생각합니다. 저는 역사적으로 이런 고압적인 상황을 다뤘던 사람들을 연구했습니다. 이성적으로 대응하는 법을 배우고, 각 위험의 정도를 동등하게 비교하지 말아야 합니다.

이렇게 '나는 걱정하지 않아'와 '세상에, 오늘은 반드시 패닉에 빠져야 해' 사이를 오가는 상태는 의사 결정이 미성숙하다는 신호라고 생각합니다. 진정으로 성숙한 의사 결정은 이를 무시할 수 없고, 우리도 방심해서는 안 됩니다.

사실, 이는 점점 더 위험해지고 있지만, 우리는 외과 의사가 수술을 처리하듯 이성적으로 대응해야 합니다. 아니면, 장교가 군사 작전을 수행하듯, 또는 많은 사람에게 영향을 미치는 결정을 내리는 모든 사람이 이성적으로 결정을 내려야 합니다. 그리고 그들은 위험을 이해해야 하지만, 기본적인 냉정함을 유지해야 합니다.

그래서 어제 아들이 제 Claude 계정을 써도 되냐고 물었을 때, 저는 절대 안 된다고 말했습니다. 제 토큰이 필요하니까요. 우리는 소비자 시장에서도 이러한 애플리케이션을 점점 더 많이 보고 있습니다. 원래는 더 기업 중심의 회사가 되기를 바랐지만, 우리가 그렇게 많은 노력을 기울이지 않았음에도 소비자 부문이 빠르게 성장하기 시작했습니다.

Emily Chang: 지금 당신은 AI 우주의 중심에 있습니다. 그 기분이 어떤가요?

Dario Amodei: 흥미롭게도, 제 전체 경력, 특히 Anthropic에 합류한 이후로 제가 경험한 것은 안정적인 기하급수적 성장입니다.

이 안정적인 기하급수적 성장의 경험은 다음과 같습니다: 아무 일도 일어나지 않고, 아무 일도 일어나지 않고, 아무 일도 일어나지 않다가, 작은 일들이 발생하고, 그러다 갑자기 미친 듯이 폭발합니다. 이것이 이 세계의 경험입니다. 또한 회사의 규모가 다른 회사 및 이 세계와 비교했을 때의 경험이기도 합니다.

그래서 저는 이 차트를 오랫동안 바라보며 말했습니다. 우리는 아마 이쯤에서 가장 높은 수익과 가장 높은 가치 평가를 받는 AI 회사가 될 가능성이 높다고요. 실제로 그렇게 되었고, 실제로 일어났습니다. 일어난 것입니다. 그래서 어떤 의미에서는 놀랍지 않았습니다. 차트의 곡선이 매우 매끄러웠기 때문입니다.

물론, 다른 관점에서 보면, 일이 실제로 일어날 때 더 풍부하고 다양한 세부 사항과 색깔을 보게 됩니다. 그리고 이것은 분명히 놀라운 일입니다.

우리는 항상 우리가 일반적으로 주목하는 문제들을 기억합니다. 즉, 어떻게 훌륭한 모델을 훈련시킬까? 어떻게 그것들을 훌륭한 제품에 적용할까? 어떻게 모든 것이 안전하도록 보장할까? 사람들을 돕는 동시에, 이 기술과 관련된 사회적 위험을 어떻게 관리할까? 이 모든 것은 동일한 문제이며, 더 큰 현미경 아래에서 검토되고 있을 뿐입니다.

성장 배경과 실리콘밸리 정신

에밀리 창: 당신은 샌프란시스코에서 자라는 동안 어떤 아이였나요? 아버지께서 가죽 공예가였고, 어머니께서 도서관에서 일하셨다고 알고 있는데, 이것이 당신에게 어떤 영향을 미쳤나요?

다리오 아모데이: 그 당시 인터넷 혁명이 제 주변에서 일어나고 있었지만, 저는 전혀 관심이 없었어요. 저는 수학을 연구하거나 그림을 그리고 쓰는 것 같은 일에만 관심이 있었죠. 우주를 탐구하는 데 흥미를 느꼈고, SF 소설에도 관심이 많았어요. 전반적으로 그게 제가 있던 환경이었습니다. 저는 단지 이 세상에 대한 강한 호기심을 가지고 있었던 것 같아요.

에밀리 창: 당신은 기술의 중심지라고 불리는 곳에서 자랐어요. 그리고 지금은 AI의 중심지이기도 하죠. 이 장소, 이 도시가 당신의 세계관을 형성하는 데 어떤 요소로 작용했나요?

다리오 아모데이: 그렇습니다. 저는 대세를 따르지 않고 개인주의를 숭상하며, '약간 미친 듯해도 괜찮다'는 보편적인 정신이 존재한다고 생각해요. 그 중 상당 부분이 실제로 저에게 무의식적으로 영향을 미쳤을 거예요.

유럽의 특정 국가나 이 나라의 다른 지역에 가면, 다르게 생각하는 방식이 억압되거나 이상하게 여겨지거나, 미친 아이디어를 가진 것으로 간주되는 이야기를 종종 듣게 됩니다.

사실 저는 실리콘밸리에 대해 많은 비판을 하지만, 한 가지 좋은 점이 있다고 생각합니다. 그것은 모든 전문가가 당신에게 반대하더라도 상관없다는 사고방식을 장려한다는 점입니다. 일관된 비전과 세계관이 있다면, 그것을 추구해야 하며 그것이 가장 중요합니다. 아마 전혀 통하지 않을 수도 있어요.

하지만 만약 통한다면, 그것은 어떤 장기적인 효과를 가지며, 특정 분야에서 깊이 파고들어 결국 그곳에서 거대한 금광을 발견할 수도 있습니다. 저는 이러한 정신이 매우 중요하다고 생각합니다.

에밀리 창: 당신, 다니엘라, 당신의 여동생, 그리고 그녀의 남편 홀든 카르노프스키는 2016년에 함께 쉐어하우스에서 살았습니다. 그때 당신들은 무엇에 대해 논쟁하고 있었나요?

다리오 아모데이: 그때는 오픈 필랜스로피 프로젝트가 막 시작될 무렵이었고, 홀든이 그 프로젝트의 책임자였어요. 당시 저는 생물학자였죠. 그래서 개발도상국의 건강이나 생물학 연구와 관련된 일을 도와주고 있었어요. 그래서 저는, 말하자면 그 주제들에 대해 조언을 제공했죠. 예를 들어, 어떤 분야가 유망한가? 어떤 분야는 그렇지 않은가 같은 것들이요.

오픈AI를 떠난 핵심적 갈등

에밀리 창: 당신이 오픈AI를 떠나기로 한 결정은 이미 실리콘밸리의 전설이 되었어요. 도대체 무슨 일이 있었던 건가요? 그런 이야기들은 제쳐두고, 본질적인 문제는 무엇이었나요? 어떤 점에서 의견이 갈렸나요?

다리오 아모데이: 들어보세요, 아주 간단명료하게 말할게요. 강력한 기술을 구축할 때는 많은 어려운 문제에 직면하게 되고, 앤트로픽도 매일 그런 경험을 하고 있어요. 우리는 우리가 내린 결정이 옳은지 그른지 알 수 없습니다.

그래서 안전성 문제에 관해서는 많은 합리적인 논쟁이 존재해요. 우리는 분명 그들과 몇 가지 의견 차이가 있었지만, 알아두세요, 그것만으로는 떠날 이유가 충분하지 않습니다. 여기 있는 사람들도 저와 의견이 달랐던 적이 있어요. 여기 사람들끼리도 서로 의견이 다르죠.

하지만 누군가를 신뢰할 수 없다고 느낄 때, 그들의 가치관이 말하는 것과 다르다고 느낄 때, 그들이 정직하지 않다고 느낄 때, 그들이 내세우는 이유와는 다른 동기로 행동한다고 느낄 때, 불편한 행동 패턴이나 부정직함을 목격할 때, 그런 상황에서는 회사에서 계속 일하기도, 그 회사를 계속 신뢰하기도 어려워져요. 결국, 누군가와 공동의 비전이 없고 더 이상 신뢰하지 않는다면, 왜 논쟁을 계속하겠어요?

해결책은 각자 갈 길을 가는 거예요. 당신은 당신의 일을 하고, 그들은 그들의 일을 하는 거죠. 저는 이 점을 전적으로 받아들입니다: 우리는 우리 방식대로 하고, 그들은 그들 방식대로 하는 거예요. 누가 시장에서 이기고, 누가 여론의 법정에서 이길지 지켜볼 겁니다. 저는 이런 사실들이 말보다 더 설득력 있다고 생각해요. 누가 왜 떠났는지에 대한 어떤 극적인 추측보다도 말이죠.

우리는 이 기술을 어떻게 배포할지에 대한 모범 사례를 제시하고 있으며, 이는 책임 있는 방식이라고 생각합니다. 만약 이의가 있다면, 그들은 논거를 제시해야 합니다. 이 문제에 대해 더 이상 말할 필요는 없다고 생각합니다.

업계 협력과 신뢰 회복

Emily Chang: 인도 AI 정상회의에서 당신과 Sam Altman이 무대에서 악수를 거부하는 순간이 있었습니다. 그때 무슨 일이 있었나요?

Dario Amodei: 당시 상황은 그 정상회의가 극도로 혼란스럽게 진행되었습니다. 우리 모두 막판에 무대에 올랐고, 그들은 우리의 순서를 임시로 변경했습니다. 그리고 사진을 찍은 뒤, 우리 모두 손을 잡으라고 명령했습니다. 이런 정상회의에 참석해 본 적이 있다면——인도에 대해 나쁘게 말하려는 것은 아닙니다——국가 원수들이 참석하는 이런 국제 정상회의는 항상 매우 혼란스럽게 진행됩니다.

Emily Chang: 하지만 다른 사람들은 모두 손을 잡았습니다. 제발요.

Dario Amodei: 들어보세요, 어떻게 말해야 할지 모르겠습니다. 당시 Narendra Modi가 위에서 갑자기 모두 손을 잡으라고 했습니다.

Emily Chang: 알겠어요, 알겠어요.

해설: 보시다시피, Sam과 Elon은 서로를 고소하고 있습니다. 당신은 Sam을 좋아하지 않는 것 같군요.

Emily Chang: 세상에서 가장 중요한 기술을 개발하는 사람들이 무대에서 손을 잡지도 못한다면, 생존 위험 문제에 대해 협력할 것이라고 어떻게 믿을 수 있겠습니까?

Dario Amodei: 그렇다면 이것이 제가 말씀드리고 싶은 것입니다. 이 기술을 구축하는 사람들 사이에는 자질과 신뢰성에 엄청난 차이가 있습니다. 이는 서로 다른 사람들이 서로를 신뢰하지 않는다는 의미이며, 저는 그것이 옳지 않다고 생각합니다.

저는 Gemini 모델을 구축하는 Demis Hassabis를 알고 있습니다. 이 모델들은 Claude 모델의 경쟁사입니다. 저는 그를 15년 동안 알고 지냈습니다. 우리는 많은 문제를 함께 처리해 왔습니다. 우리는 Google에서 컴퓨팅 리소스를 구매합니다. 우리는 안전에 관한 아이디어를 자주 교환합니다.

그래서 제 생각은, 첫째로, 어떤 참여자들은 다른 이들보다 더 신뢰할 만하다는 것입니다. 그리고 Anthropic 외에도 제가 신뢰하는 참여자들이 있다고 생각하며, 그들은 신뢰할 만하다고 봅니다. 필요한 것은 신뢰할 만한 참여자들이 연합하여 신뢰할 수 없는 참여자들에 대응하는 것입니다. 그래야 모든 참여자가 동일한 기준을 따르게 됩니다.

풍부한 경험을 통해, 어떤 사람들은 자발적으로 옳은 일을 하지 않는다는 것을 알게 되었습니다. 하지만 업계의 대다수가 옳은 일을 한다면, 업계의 다른 이들은 그 흐름을 따를 수밖에 없을 것입니다. 이는 긍정적인 버전으로, 다른 사람들을 자극하는 방식과 같습니다.

마치 Demis와 제가 서로를 자극하는 것과 같습니다. 그는 AlphaFold를 하고 있습니다. 우리도 생물학 분야에서 무언가를 시도하고 있으며, 설명 가능성(interpretability)을 연구하고 있습니다. 그들도 설명 가능성 연구를 시작했습니다. 이는 경쟁조차 아닙니다.

단지 각 회사가 멋진 일을 하고 있기 때문입니다. 다른 회사들은 그것이 멋지다고 느낍니다. 우리도 한번 시도해보고, 그 안에서 새로운 것을 만들어낼 수 있을지 보고 싶습니다. 이것이 최고 수준의 경쟁에서 '당근'의 측면입니다. 그리고 '채찍'의 측면, 혹은 암묵적인 '채찍'은, 이 사람들이 옳은 일을 하고 있다는 것을 깨닫는 것입니다. 다른 사람들이 옳은 일을 하지 않으면, 그 모습이 매우 나빠 보입니다.

우리는 종종 이런 행동을 봅니다: 그들은 마지못해 옳은 일을 하면서도, 마치 다른 일을 하고 있는 척하며 우리에게 어떤 나쁘거나 사악한 의도가 있다고 암시하는데, 이는 예측 가능한 일입니다. 하지만 저는 이것이 업계를 통합하고 업계 협력을 촉진하는 방식이라고 생각합니다.

비즈니스 모델: 기업 부문과 가치관의 조화

Emily Chang: 초기에는 다른 사람들이 재미있고 화려한 소비자 애플리케이션에 집중했습니다. 반면 당신은 코딩과 기업 부문에 베팅했고, Claude Code는 큰 성공을 거두었으며 Claude Co-work도 큰 성공을 거두었습니다. 왜 그런 베팅을 하기로 결정했나요? 가치관에 기반한 결정이었나요, 아니면 비즈니스에 기반한 결정이었나요?

Dario Amodei: Anthropic을 설립할 때 가장 근본적인 것, 즉 항상 중요했던 것은 우리 내면의 바람이었습니다. 우리는 올바른 방식으로 이 일을 완수하고 싶었습니다. 하지만 스스로에게 물어봐야 했습니다. 이 모델들의 엄청나게 비싼 생성 과정에 자금을 대기 위해서는 회사에 적합한 비즈니스 모델이 필요합니다. 그렇다면 비즈니스 모델이 가치관의 실현을 방해할까요?

이 문제는 항상 존재합니다. 하지만 다른 회사에서 근무하거나 다른 회사들을 관찰하면서 배운 점은 하나입니다: 선택한 비즈니스 모델이 자신의 가치관과 근본적으로 충돌한다면, 당신은 어려운 상황에 처하게 될 것입니다. 가치관을 저버리거나 시대에 뒤처지게 될 것입니다.

결국 진퇴양난에 빠지게 됩니다. 이를 피할 방법이 있기는 하지만, 여전히 매우 까다로운 상황입니다. 자신의 가치관과 양립할 수 있는 비즈니스 모델을 선택하는 것이 훨씬 낫습니다.

그래서 우리가 이 문제를 고민할 때, 우리는 이렇게 생각했습니다. 소셜 미디어와 소비자 분야의 세계를 이미 목격했으며, 그것은 분명히 상호작용, 심지어 중독을 조장하는 것처럼 보입니다. AI 비디오 모델에서 보이는 조잡한 콘텐츠의 배후에는 광고 수익에 의해 주도되는 인센티브 메커니즘이 있기 때문에, 사용자의 주의 집중 시간을 극대화하는 논리가 작동합니다.

하지만 기업 분야를 살펴보면, 우리의 초기 의도는 이러한 모델이 사람들에게 도움이 되기를 바라는 것이었습니다. AI로 할 수 있는 모든 긍정적인 일들을 생각할 때, 저는 종종 부정적인 영향에 대해 사람들에게 경고하지만, 근본적으로 우리는 긍정적인 측면이 결국 부정적인 측면을 능가할 것이라고 믿습니다. 이러한 긍정적인 응용 사례 중 상당수는 기본적으로 기업 응용 범주에 속합니다.

우리는 AI를 활용해 과거에는 치료할 수 없었던 질병을 치료하고자 하며, 이를 위해 생명공학 회사, 제약 회사, 학술 연구 기관과 협력해야 합니다. 이 모든 것은 기업입니다. 우리는 AI를 활용해 에너지를 더 저렴하고 효율적으로 만들고자 합니다. 이 모든 것은 기업 응용에 속합니다.

우리는 AI를 활용해 교육을 지원하고자 합니다. 대부분은 기업 수준의 응용입니다. 우리는 AI를 활용해 건강과 개발도상국의 문제를 해결하고자 합니다. 비록 비영리 조직이지만, 본질적으로 기업 범주에 속합니다. 우리는 경제 성장을 촉진하고자 합니다. 이는 기본적으로 기업 수준의 범주에 속합니다.

또한 저는 또 다른 요소가 있다고 생각합니다. 기업은 신뢰와 장기적인 관계를 매우 중시하는 반면, 소비자용 응용은 때때로 과장된 느낌을 줍니다. 기업 수준에서는 협력 관계를 구축하는 것이 중요합니다. 즉, 한 회사와 수년간 협력하며, 당신이 약속을 지키고 그들도 약속을 지키며, 그들이 근본적으로 당신을 신뢰하는 관계입니다.

따라서 이는 우리가 이러한 모델을 긍정적이고 안전한 방식으로 배포하려는 목표와 매우 조화를 이룹니다. 따라서 우리의 가치관과 높은 수준으로 일치하는 이러한 비즈니스 모델을 보유하는 것이 우리에게 유리하다고 생각합니다.

때때로 갈등이 없거나 어려운 선택을 하지 않아도 된다는 뜻은 아닙니다. 하지만 그러한 선택의 수는 다른 상황에 비해 훨씬 적다고 생각합니다.

경쟁 해자와 'SaaS 종말'

에밀리 창: 개발자는 오후 하나만에 Claude에서 GPT나 Gemini로 전환할 수 있습니다. 이 업계에서 정말로 장기적인 선두를 유지하는 것이 가능할까요? 그리고 진지한 경쟁자가 여러분이 구축한 것을 복제하는 데 얼마나 오래 걸릴 것이라고 생각하시나요?

다리오 아모데이: 모델 품질이 가장 중요한 것입니다. 예를 들어, 우리는 현재 모델 품질에서 크게 앞서 있습니다. 어느 정도 관성은 존재하지만, 저는 결코 그것에 의존하지 않습니다. 저는 의존한 적이 없으며, Anthropic도 '제품의 고착성이 높아 사용자가 전환하지 않을 것'이라는 생각에 의존한 적이 없습니다.

저는 여전히 더 나은 모델을 보유하는 것이 중요하다고 생각합니다. 더 나은 제품을 원합니다. 그리고 우리는 성장률이 전혀 꺾이지 않는 것을 목격했습니다. 오히려 변화가 있다면 상승하고 있습니다. 적어도 이 인터뷰를 녹화하는 시점에서는 그렇습니다. 따라서 이것이 가장 중요한 일이라고 생각합니다.

에밀리 창: Claude Co-Work 출시 직후, 2,850억 달러의 시장 가치가 하룻밤 사이에 증발했으며, 트레이더들은 이를 SaaS 종말(SaaSpocalypse)이라고 불렀습니다. AI가 이 속도로 계속 개선된다면, 전통적인 소프트웨어는 얼마나 대체될 것이며, 그 속도는 얼마나 빠를까요?

다리오 아모데이: 이것은 사전에 예측하기 어려운 문제에 속합니다. 만약 완벽하게 예측할 수 있다면, 사람들은 이미 그렇게 했을 것이고, 시장에서 막대한 부를 축적하며 항상 옳았을 것입니다.

따라서 아무도 정확히 무슨 일이 일어날지 알지 못하지만, 몇 가지를 지적하자면, 이 모든 전통적인 소프트웨어 회사들은 어느 정도의 해자를 가지고 있습니다. 제 생각에 일어날 일은 이러한 해자 중 일부는 사라지고, 다른 일부는 남을 것입니다. 소프트웨어를 빠르게 작성하는 능력은 분명히 사라질 것이라고 생각합니다. 만약 여러분의 해자가 '우리는 아무도 작성할 수 없는 복잡한 소프트웨어를 작성한다'는 것이라면, 행운을 빕니다. 여러분은 그것을 방어할 수 없을 것입니다.

하지만 사람들은 고객 관계를 가지고 있다고 생각합니다. 사람들은 해당 분야가 어떻게 작동하는지에 대한 전문 지식을 가지고 있습니다. 사람들은 독특한 도메인 지식을 가지고 있습니다. 따라서 이 모든 사람들에게 드리는 조언은 분명히, 자만하지 말라는 것입니다. 그것을 무시하지 마세요. 여러분의 모든 해자를 나열하고, 그중 일부는 사라지고 다른 일부는 제한 요소로서 상대적으로 더 중요해질 것임을 명확히 인식하세요. 그리고 새로운 해자가 나타날 수도 있습니다.

저는 민첩하게 대응할 수 있는 사람, 여전히 존재하는 해자(moat)에 의존하거나 새로운 해자를 활용할 수 있는 사람은 잘 해낼 것이라고 생각합니다. 반면, 안주하는 사람들은 과거에 통했던 방법이 앞으로도 계속 통할 것이라고 스스로를 속이고 있을 뿐입니다. 그들은 좋은 시절을 보내지 못할 것입니다. 이것이 제가 드리고 싶은 조언입니다.

그리고 궁극적으로, 제 생각에는 — 물론 SaaS를 어떻게 정의하느냐, 무엇이 SaaS가 아니라고 보느냐에 따라 다르겠지만 — 소프트웨어 산업은 더 작아지기보다는 더 커질 것이라고 예상합니다. 물론 그 과정에서 엄청난 패자가 등장할 수도 있지만요.

Emily Chang: 설명해 주세요.

Dario Amodei: 단순히 파이가 점점 더 커지고 있다고 생각합니다. 예를 들어, AI 덕분에 이 파이는 더욱 커지고 있습니다. 기존의 노련한 기업들은 상대적인 의미에서 작아질 수 있습니다. 그중 일부 기업의 가치는 하락할 수도 있습니다. 올바른 방식으로 적응하지 못한다면, 일부는 아예 문을 닫을 수도 있습니다.

하지만 성장 속도가 매우 빠를 때 이런 현상이 자주 발생한다고 생각합니다. AI의 가능성이 10배로 증가한다면, 기존의 기성 산업이 1.5배 성장하는 것은 매우 쉬운 일입니다. 단지 전체 파이만큼 많이 성장하지 못할 뿐입니다. 따라서 이런 일이 일어날 가능성이 있다고 봅니다.

이는 우리가 거대한 패자를 보지 못할 것이라는 뜻이 아닙니다. 적응하지 못하고, 현실을 외면하며, 미래 트렌드를 읽지 못하고, 자신의 해자를 인식하지 못하는 사람들은 매우 어려운 상황에 직면할 것이라고 생각합니다.

컴퓨팅 파워, 자금 조달 및 파트너

Emily Chang: 당신의 가장 큰 후원자는 Amazon, Google, Microsoft, NVIDIA 같은 회사들입니다. 이들 회사는 각자의 의제를 가지고 있습니다. 그들은 파트너이자 경쟁자이기도 합니다. 당신은 막대한 자금과 연결된 상업적 이정표를 가지고 있습니다. 과연 누가 진정으로 결정권을 쥐고 있습니까?

Dario Amodei: 우리는 솔직한 생각을 여러 번 직설적으로 표현한 적이 있습니다. 저는 항상 중국으로의 칩 수출 통제를 주장해 왔습니다. 그렇게 말하는 이유는, 중국이 AI 능력에서 앞서게 된다면 미국과 전 세계의 진행 과정에 매우 나쁜 영향을 미칠 것이라고 생각하기 때문입니다. 그리고 일부 칩 제조사들은 분명히 이 의견에 동의하지 않습니다. 하지만 그렇다고 해서 제 생각을 표현하는 것을 막지는 못했습니다.

더 많은 협력 계약을 체결한 후에도 지금도 이 점을 다시 강조하고 있습니다. 그들이 알고 있는 것은 우리가 항상 그들과 협력해 왔다는 점입니다. 우리는 좋은 파트너였고, 함께 일할 수 있는 관계입니다. 그들이 우리가 이런 말을 하지 않길 바란다는 건 알지만, 이건 제가 진심으로 믿는 내용입니다.

어떻게 할 생각인가요? 결국 그들도 동의할 것입니다. 그들은 이 거래에서 우리와 비슷한 수익을 얻고 있습니다. 보세요, 우리는 모두 성인입니다. 우리는 어떤 일에서는 협력하면서도 다른 일에서는 의견 차이를 유지할 수 있습니다.

Emily Chang: Bloomberg 보도에 따르면, 귀사의 가치 평가가 OpenAI보다도 높다고 합니다. 우리는 설립 5년 된 스타트업이 거의 1조 달러에 가까운 가치 평가를 받는 이야기를 하고 있습니다. 이를 어떻게 이해하시나요? 그 숫자에 대해, 그리고 컴퓨팅 자원에서 더 규율 있고 수익화 경로가 더 빠른데 왜 이렇게 많은 자금이 필요한가요?

Dario Amodei: 컴퓨팅 자원의 확장 속도는 매우 빠릅니다. 따라서 사업의 기본 펀더멘털이 좋아 보이는 것은 사실이지만, 1년 후에는 현재의 3배 또는 4배 규모로 컴퓨팅 자원이 늘어날 수 있습니다. 정확한 숫자는 말씀드리지 않겠지만, 이런 컴퓨팅 자원의 성장은 매우 빠릅니다.

수익 성장이 이러한 규모에 도달하거나 초과할 것이라고 믿을 충분한 이유가 있습니다. 자금 조달은 바로 이러한 불확실성 범위에 대비한 완충 장치입니다.

따라서 이는 완전히 합리적인 접근입니다. 이로 인한 사업의 지분 희석은 매우 작으며, 논리적으로 이 둘은 전혀 다른 문제입니다. 사실, 이는 반대 상황과도 양립 가능하며, 사업의 펀더멘털에 문제가 있다는 뜻이 아닙니다.

Emily Chang: 서버 과부하, 신뢰성 문제, 토큰 소진에 대한 불만이 보도되고 있습니다. 다른 회사들이 인프라 구축에 올인하고 있다고 말씀하셨는데요. 정말 필요한 것을 확보하고 계신가요, 아니면 따라잡는 중인가요?

Dario Amodei: 컴퓨팅 파워에 관해 한 가지는 이른바 마케팅용 컴퓨팅 파워가 존재한다는 점입니다. 제 관점은, 일정 시간, 심지어 몇 달보다 더 긴 기간을 거치면 충분한 컴퓨팅 파워를 확보할 수 있다는 것입니다. 여기서 언급할 점은, 어떤 합리적인 기준으로 봐도 우리가 너무 적은 컴퓨팅 파워를 구매했다고 생각하지 않습니다.

그래서 우리는 원래 연산 능력이 매년 10배씩 성장할 것으로 계획했습니다.

매년 10배는 우리가 예상한 바입니다. 하지만 이것이 현재 우리가 목격하는 상황은 아닙니다.2026년 1분기에 분기 매출 성장이 3배를 넘었습니다. 이는 단일 분기 데이터일 뿐, 연간 성장률이 아닙니다. 분기 내 3배 성장은 당연히 3의 4제곱이 연간 80배 성장을 의미합니다.

우리는 80배의 연간 성장을 예상하지 못했습니다. 80배 연간 성장을 목표로 계획을 세우는 것은 비합리적입니다. 만약 최종적으로 10배 성장에 그친다면, 8배나 부족한 셈이 되기 때문입니다. 그래서우리는 국지적으로 극단적인 연산 능력 폭발 단계에 있습니다. 이런 상황은 지속되지 않을 것입니다.

만약 이런 상황이 지속된다면, 연말에는 지구상 어떤 기업도 도달할 수 없는 매출 수치를 얻게 될 것입니다. 저는 그런 일이 일어나지 않을 것이라고 생각합니다. 그저, 정말로 지속될 수 없습니다.

하지만 여러분은 이런 짧은 시기를 겪으면서, 세상에, 이건 우리가 이전에 상상했던 어떤 성장 속도보다 훨씬 빠르다고 감탄할 수도 있습니다. 하지만 저는 모르겠습니다. 여러분은 이미 Google과 체결한 연산 능력 계약과 Amazon과 체결한 연산 능력 계약을 보셨습니다. 우리는 더 많은 일을 할 수 있고, 앞으로도 할 것입니다.

예를 들어, 시장은 유동적입니다.만약 연산 능력을 매우 효율적으로 활용할 수 있고 수요가 존재한다면, 필요한 연산 능력을 얻을 수 있습니다. 아마 한두 달 정도면 충분할 것입니다.

정상 경쟁 선도와 기업 문화

Emily Chang: 라이벌을 앞지른 기분이 어떤가요?

Dario Amodei: 들어보세요, 우리 앞에는 아직 많은 어려운 도전이 있습니다. 우리는 '정상을 향한 경쟁'이라는 철학을 가지고 있습니다. 즉, 다른 기업들을 우리와 함께 나아가도록 이끌려고 합니다. 우리는 실제로 그들을 이끌었다고 생각합니다. 때때로 그들은 자신들이 그렇게 하고 있다는 것을 인정하지 않습니다.

때로는 그들이 우리를 공격하면서도 동시에 우리를 모방하기도 하지만, 이러한 이끌어감은 매우 가치 있습니다.

따라서 저는 상업적 측면이나 모델 측면에서업계 선도 기업이 되는 가치는 경쟁을 위해 상대를 이기는 데 있는 것이 아닙니다. 그 의미는 전체 생태계를 함께 발전시킬 수 있는 능력에 있습니다. 우리는 앞으로 이 부분에서 더 많은 일을 하고 싶습니다.

Emily Chang： 하지만 솔직히 말해서, 승리를 거두는 건 정말 기분 좋은 일이에요.

Dario Amodei： 보세요, 우리는 항상 성공을 위해 노력하고 있잖아요? 계속해서 노력 중이고, 여기서 실패하려는 게 아니에요. 저는 이 기술의 발전을 멈추거나 구축하지 말아야 한다고 생각하는 사람이 아닙니다. 우리는 자유 기업 제도 안에 존재하고 있고, 그건 전혀 문제가 되지 않아요. 우리는 모델이 초래할 위험을 완화해야 하며, 그래서 항상 그 사이에서 균형을 찾는 것이 중요합니다.

Emily Chang： 그렇다면, Anthropic의 역사 대부분 동안 여러분은 열세에 있었어요. 아무것도 없을 때는 도덕적 우위를 점하기가 더 쉬울 거라고 생각해요. 이런 규모에서 초심을 유지하는 게 얼마나 어려운가요?

Dario Amodei： 제가 말씀드리고 싶은 건, 왜 이런 일이 일어나는지에 대해 많은 시간을 고민했다는 점입니다.

회사가 계속 확장됨에 따라, 저는 모든 규모 단계에서 경계를 늦추지 않고 있습니다. 회사가 발전하는 각 단계마다 새로운 도전이 나타납니다. 회사는 어떤 새로운 방식으로든 본래의 특성을 잃을 수 있습니다. 사업적 야망이든, 핵심 가치든 말이죠.

저는 이 두 가지 모두에 대해 우려하고 있습니다. 왜냐하면 그것들이 서로 시너지 효과를 낸다고 생각하기 때문입니다.

사실, 저는 이렇게 뛰어난 모델을 구축할 수 있었던 것이 바로 우리가 가치를 효과적으로 실천할 수 있는 핵심이라고 생각합니다. 회사가 계속 성장하고 확장됨에 따라, 많은 함정이 존재합니다. 잘못될 수 있는 다양한 방식이 있고, 이는 저나 공동 창업자, 회사 리더들의 가치관이 변했기 때문이 아니라, 회사의 구성이 매우 빠르게 변화하기 때문입니다.

그래서 저는 시간의 절반 정도를 회사 내에서 Anthropic의 문화와 그 문화가 어떻게 작동하는지에 대해 이야기하는 데 보냅니다. 이렇게 빠르게 성장할 때, 대형 기술 기업 출신의 사람들을 많이 고용하게 됩니다.

만약 그들에게 Anthropic이 어떻게 운영되는지 알려주지 않으면, 그들은 단순히 자신들이 익숙한 유일한 방식을 반복할 뿐입니다, 즉 그들이 원래 다니던 회사의 운영 방식을 그대로 따라 하게 됩니다.

따라서 이것은 지속적인 고군분투이자 지속적인 도전입니다.

마치, 저와 다니엘라에게 아마도 가장 중요한 최우선 과제는 이것을 어떻게 유지할지 알아내는 것입니다. 장기적으로 볼 때 이것이 우리의 핵심이라는 것을 깨달았기 때문입니다.

연구 개발 효율성과 과학적 진보

에밀리 창: 제품 반복 속도가 놀라울 정도로 빠릅니다. 제품을 출시하는 양과 속도가 믿기 어려울 정도입니다. 어떻게 그렇게 할 수 있습니까?

다리오 아모데이: 두 가지를 말씀드리고 싶습니다. 첫 번째는, 우리는 하나로 통합된 회사입니다. 통합된 기업 문화를 가지고 있습니다. 규모가 커지면서도 여전히 매우 높은 효율성을 유지하고 있다고 생각합니다. 모든 사람이 여전히 같은 목표를 가지고 있으며, 이는 문화와 조직의 통일성을 보여줍니다. 이것이 가장 중요한 요소라고 생각합니다.

두 번째 주요 요인으로는 클로드 자체를 꼽고 싶습니다. 지금 우리는 클로드를 활용하여 도움을 받고 있습니다. 모델 개발, 모델 효율성 향상, 제품의 빠른 개발에 클로드를 활용하고 있습니다. 이를 위해 다양한 새로운 실천 방법을 개발해야 합니다. 이 분야에서는 아직 신생이지만, 이미 상당한 가속화 효과를 보고 있으며, 이러한 가속화는 점점 더 안정적이 되고 있습니다. 이것이 제가 지목할 두 가지 요인입니다.

에밀리 창: 당신이 본 AI가 한 가장 미친 일을 말해줄 수 있나요?

다리오 아모데이: 제가 본 가장 미친 일들은 주로 생물학과 의학 분야에서 일어났다고 생각합니다. 여러 사례를 보았는데, 실제로 다니엘라의 경우도 포함하여, 클로드가 많은 최고의 의사들이 놓친 의료 문제를 진단한 경우가 있었습니다. 생물학 분야에서 이러한 모델들은 약물 설계, 계산 화학 등의 작업에서 놀라운 성과를 내기 시작했습니다. 예전 생물학자로서 이러한 결과를 보면서 정말 어려운 일이라는 생각이 들었습니다.

이러한 작업을 완료하려면 많은 전문 훈련이 필요합니다. 그리고 클로드는 이 분야에서 점점 더 뛰어나지고 있습니다. 이것이 우리가 큰 이익을 얻을 수 있는 분야라고 생각합니다. 이것이 긍정적인 측면입니다. 우리는 엄청난 혜택을 얻게 될 것입니다. 삶은 더 나아질 것입니다. 인간 경험의 질도 더 좋아질 것입니다.

에밀리 창: 한 세기의 과학적 진보.

다리오 아모데이: 한 세기의 과학적 진보, 그리고 인간 경험의 차원에서 한 세기의 진보를 의미합니다. 예를 들어, 1900년으로 돌아가 보세요. 1900년에 우리가 직면했던 모든 문제, 사람들을 조기 사망에 이르게 했던 모든 원인, 그들이 견뎌야 했던 모든 고통, 그리고 오늘날 우리가 더 이상 겪지 않아도 되는 모든 물질적 결핍을 생각해 보세요.

그리고 다음 100년을 상상해 보세요. 저는 이 한 세기의 과학 및 의학적 진보를 진심으로 믿습니다. 만약 우리가 현재의 난관을 극복할 수 있다면 말이죠. 저는 우리가 해낼 수 있다고 믿습니다. 점점 더 낙관적으로 변하고 있습니다. 우리는 지금보다 훨씬 더 나은 세상을 갖게 될 것입니다.

글쓰기, 사고, 그리고 AI 보조

에밀리 창: 당신이 글쓰기를 얼마나 사랑하는지 알고 있습니다. 에세이를 쓰는 것으로 유명하시죠. 글을 쓸 때 Claude를 사용하시나요?

다리오 아모데이: 사용합니다. 아직 Claude가 작성한 텍스트를 그대로 채택할 단계는 아닙니다. 제게는 독특한 스타일이 있고, 그것에 대해 까다롭기 때문입니다. 하지만 기본적으로 Claude를 브레인스토밍 보조 도구로 사용하거나, 주제를 정리하는 데 도움을 받거나, 참고할 만한 내용을 제공받는 용도로 사용합니다.

따라서 보조적인 역할을 합니다. Claude가 저보다 더 나은 글을 쓸 수 있을 때까지 얼마나 남았는지는 모르겠습니다. 아직 그 단계는 아니지만, 그날이 반드시 올 것이라고 생각합니다.

에밀리 창: 저도 글쓰기를 사랑합니다. 글쓰기가 생각을 정리하는 데 도움이 된다고 생각해요. 여기에는 많은 비판적 사고가 포함됩니다. 만약 우리가 Claude에게 이 일을 맡긴다면, 이런 능력을 잃게 되는 건 아닐까요?

다리오 아모데이: 저는 그 점에 대해 다소 우려하고 있습니다. 사실, 그것이 제가 직접 글을 쓰는 이유의 절반을 차지합니다. 외부 독자들에게는 확실히 그렇습니다. 많은 사람들이 제 글을 읽지만, 글쓰기는 동시에 제 자신의 생각을 정리하고, 다음에 무엇을 해야 할지 알게 해주며, 저와 다른 사람들 사이에 공통된 참조점을 만들어 줍니다.

저는 여전히 이러한 이점을 유지하면서 AI를 활용하는 방법을 모색 중이라고 생각합니다. 제가 현재 하고 있는 방식이 그렇습니다. 예를 들어, 연구를 위해 Claude를 사용하고, 제 생각을 정리하는 데도 Claude를 활용합니다.

만약 AI에 모든 것을 맡겨, 예를 들어 AI 리스크에 관한 글을 작성하게 한다면, 우선 제 개인적인 통찰을 담을 수 없고, 글쓰기를 통해 얻는 이점도 사라질 것입니다. 모델 성능이 향상됨에 따라, 미래에는 이러한 이점을 유지하면서 글쓰기에 AI를 더 직접적으로 활용할 방법이 생기겠지만, 이는 미묘한 과정이 될 것입니다. 상황이 단순하게 전개되지는 않을 것이며, 앞으로 한동안 점진적으로摸索해 나가야 합니다.

저는 GDP 고성장과 높은 실업률이 결합된 매우反常한 조합이 나타날 가능성이 있다고 생각합니다. 적어도 불완전 고용 상태이거나, 저임금 일자리가 넘쳐나고 심각한 불평등이 존재하는 상황이 될 수도 있습니다.

실업 리스크, 생산성 및 거시 정책

Emily Chang: 당신은 실업 문제에 대해 매우 솔직하게 이야기해 왔습니다. AI가 향후 1~5년 내에 초급 화이트칼라 일자리의 절반을 대체할 수 있다고 보십니다. 이는 작년의 주장입니다. AI의 발전 속도는 놀라울 정도로 빠릅니다. 지금도 여전히 50%라고 보십니까? 아니면 그 비율이 더 높아졌습니까?

Dario Amodei: 저는 항상 말해 왔습니다. 원본 영상 클립을 다시 보면, 항상 그 3초짜리 부분만 잘라내어 맥락을 왜곡하곤 합니다. 하지만 제 실제 입장은 항상 이랬습니다. 미래에 무슨 일이 일어날지 저는 모르지만, 이는 상황이 한 단계 더 격변할 가능성을 예고합니다.

또한, 저는 우리가 취할 수 있는 대응 방안에 대해 지속적으로 이야기해 왔습니다. 토큰 세금이나 기업과 협력하여 인력 구성을 조정하는 방안을 언급한 적이 있습니다. 재교육 프로그램에 대해서는 다소 회의적이지만, 우리는 이를 거시 경제 정책에 반드시 고려해야 합니다.

처음부터 제가 이야기한 것은 항상 해결책이었습니다. 하지만 인간 심리에는 종말이 임박했다는 그 3초짜리 내용만 편집하려는 경향이 있는 것 같습니다. 따라서 제가 전달하려는 메시지는 결코 종말이 임박했다는 것이 아닙니다. 제가 말하고자 하는 것은, 이는 우리가 예측하고 우려해야 할 사항이며, 실제로 긍정적인 태도로 대응해야 한다는 것입니다. 저는 완전히 확신하지는 않지만, 여전히 상당히 우려하고 있습니다. 제 우려 수준은 여전히 동일한 수준에 머물러 있습니다.

우리는 현재 AI가 사람들의 생산성을 향상시키는 것을 보고 있지만, 이는 일반적인 초기 성장 단계에 속합니다. 산업혁명 시기를 되돌아보면, 제가 《기술의 청년기(Adolescence of Technology)》에서 이 점을 언급한 바 있습니다. 업무의 90%를 자동화했으며, 이는 좋은 현상입니다.

사람들은 남은 10%의 업무에서 생산성이 10배 향상되었는데, 이는 10배의 레버리지 효과를 얻었기 때문입니다. 하지만 결국에는 100%에 가까워질 것입니다. 그러면 그에 따른 연쇄 문제로, 그들에게 다른 할 일을 찾아줘야 합니다.

장기적인 발전에 관해서는 아직 확신이 서지 않습니다. 이 점에 대해 저는 정말로 불확실함을 느낍니다. 하지만 다양한 유형의 적응이 존재한다고 생각합니다. 예를 들어, 제가 언급한 한 가지는 Anthropic 내부의 소프트웨어 엔지니어에 관한 것입니다. 우리는 현재 이러한 전환을 겪고 있으며, AI가 모든 또는 거의 모든 코드를 작성하지만, AI는 실제로 소프트웨어 엔지니어를 더 효율적으로 만듭니다.

그럼에도 불구하고, 여전히 사람들의 효율성을 향상시키고 있습니다. 하지만 우리는 이미 어떤 사람들에게는 효율성이 향상되지 않을 수 있다는 조짐을 보기 시작했으며, 이런 경우에는 AI가 직접 작업을 완료하는 것이 더 나을 수 있습니다.

그래서 이것이 문제의 한 측면입니다. 다른 측면은, 우리가 수요를 증가시켜야 할 분야는 무엇인가 하는 점입니다. 우리는 이를 프론티어 배치 엔지니어(Frontier Deployment Engineer) 또는 응용 AI 솔루션 아키텍트(Application AI Solutions Architect)와 유사한 직군이라고 부르며, 이들의 업무는 기술 개발과 고객 커뮤니케이션을 겸합니다. 현재 이러한 인재에 대한 수요는 매우 큽니다. 고객 기반이 방대하고 우리가 빠른 확장 단계에 있기 때문입니다.

그렇다면 이것이 순수 소프트웨어 엔지니어링에 종사하는 모든 사람에게 적합할까요? 완벽한 매칭은 아닙니다. 일대일 대응 관계가 아닙니다. 이는 미래에 거대한 혼란이 있을 것임을 깨닫게 하지만, 상황은 그에 따라 조정될 것입니다. 어느 쪽이 승리할까요? 저는 모릅니다.

하지만 경고를 발령해야 하는 이유는, 이것이 우리가 대응하는 방식이기 때문입니다. 이것이 인간 자체의 차원에서든, 글로벌 거시경제 차원에서든 우리가 정책을 수립하는 근거입니다. 우리는 신중하게 고려된 의견을 제시하고자 합니다. 사람들이 실제로 실현하거나 이행할 수 없다고 생각할 약속을 하고 싶지 않습니다. 충분히 입증되지 않은 발언을 하고 싶지 않습니다. 우리는 이러한 문제에 대해 신중히 사고하고, 실현 가능한 대응 방안을 모색하고자 합니다.

Emily Chang: 당신은 잠재적인 일자리 감소를 보여주는 이 차트를 제시했는데, 예를 들어 영업, 금융 등의 분야에서 말이죠. 어떤 일자리가 사라지고, 누가 대체되며, 어떤 새로운 일자리가 창출될까요?

다리오 아모데이: 사실 아무도 확신할 수 없습니다. 경제는 예측 불가능하기 때문입니다. 이는 주식 시장과 마찬가지로 분산된 과정에 속하며, 사람들이 미래에도 여전히 수행할 수 있는 업무 부분이 정확히 무엇인지 미리 알 수 없습니다.

하지만 제가 말하고 싶은 것은, 광범위한 관점에서 볼 때, 은행업, 금융업 또는 기타 업종을 막론하고 초급 화이트칼라 직종이 존재하는 모든 분야에서 AI는 먼저 사람들의 업무 효율성을 크게 향상시킬 잠재력을 가지고 있지만, 이후에는 AI가 인간을 완전히 대체하여 전체 작업을 수행할 수 있는 능력을 갖추게 될 것입니다.

그 다음 우리는 사람들이 실제로 무엇을 할 수 있을지 고민해야 합니다. 저는 이에 대해 미리 계획을 세울 필요가 있다고 생각합니다. 우리는 기업 고객과 소통할 때 이미 이 작업을 진행하고 있습니다. 그들이 직면한 선택지를 보고 있습니다. 그들이 마주한 선택은 비용을 절감할 것인가입니다.

이는 일반적으로 직원을 줄이는 것을 의미하며, 기본적으로 더 적은 자원으로 동일한 일을 하는 것입니다. 아니면 자원 총량을 유지하면서 더 많은 일을 해야 할까요? 기회가 있을 때마다 우리는 항상 동일한 자원으로 더 많은 일을 하도록 그들을 유도하려고 노력합니다. 이는 기본적으로 동일한 수 또는 더 많은 사람을 고용하여 새로운 업무를 수행하게 함으로써 그들이 윈-윈 게임을 실현하도록 추진하는 것을 의미합니다.

현재 우리가 유리한 조건에 있는 점은 파이가 크게 확장될 것이라는 점입니다. 파이가 크게 확장되기 때문에 사람들이 진입할 수 있는 새로운 영역이 나타날 가능성이 높으며, 문제는 이러한 기회를 충분히 빠르게 찾을 수 있느냐에 달려 있습니다. 이번 혁신의 규모는 매우 클 것이며, 이것이 제가 사람들에게 주의를 환기시키는 부분입니다. 하지만 우리는 이러한 매칭 문제를 해결해야 합니다.

에밀리 창: 저를 위해 추론해 주세요. 예를 들어 5년 후 당신이 깨어났을 때, 이 나라는 어떤 모습일까요? 이 사람들은 무엇을 하고 있을까요? 왜냐하면 실업률이 그 정도 수준에 도달한다면, 그것이 혁명이 시작되는 전조가 아닐까요?

다리오 아모데이: 이것이 바로 우리가 막고자 하는 결과입니다. 우리는 이러한 상황이 발생하는 것을 절대적으로 피해야 합니다.

몇 가지 진입점이 있다고 생각합니다. 이는 보장된 것이 없으며 확신할 수 없지만, 물리적 세계가 존재합니다. 예를 들어 물리적 세계에 존재하는 사물들, 로봇 혁명도 일어나고 있지만, 이는 AI 분야에서 진행 중인 일보다 훨씬 느립니다. 사람들은 항상 데이터 센터 구축에 대해 이야기하지만, 모든 유형의 정보 처리가 훨씬 쉬워질 때 제한 요소는 물리적 세계의 사물이 될 수 있습니다.

따라서 우리는 물리적 세계에서 더 많은 사람이 제조, 구축, 생산에 참여해야 합니다.

인간 중심의 모든 것은 큰 일이 될 것이라고 생각합니다. AI가 의사가 발견하지 못한 문제를 찾아냈다는 이야기를 많이 들었고, 기쁘게 생각합니다. 하지만 사람들은 여전히 다른 인간과 소통하고 싶어 합니다. 특히 중요한 일을 처리할 때는 더욱 그렇죠. AI가 더 나은 고객 서비스를 제공할 수도 있지만, 그럼에도 사람들, 또는 적어도 일부 사람들은 인간과 대화하기를 원합니다.

따라서 이런 인간 관계 중심의 작업은 중요해질 것이라고 생각합니다. 또한 인간이 AI를 어느 정도 유도하는 노력을 할 것이라고 봅니다. 어떤 면에서는 그것이 누군가의 가치관과 의도에 부합해야 하기 때문입니다. 그래서 이런 역할이 존재할 것이라고 생각하지만, 그 역할이 얕을지 깊을지는 모르겠습니다. 말하기 어렵다고 생각합니다.

'종말 마케팅' 비난에 반박

Emily Chang: 이미 많은 반대 의견이 나오고 있습니다. 당신이 사람들에게 경고하려 한다고 말한 것은 알지만, Jensen Huang은 당신이 임무와 작업의 개념을 혼동하고 있다고 말했습니다. 다른 이들은 이것이 Anthropic에 유리한 '종말 마케팅'에 가깝다고 말하기도 했습니다. 그래서 저는 이 점을 명확히 하고 강력히 반박하고자 합니다.

Dario Amodei: 실업 위험 전반에 대해 몇 가지 생각이 있습니다. 아직 완전히 구체화하지는 않았는데, 정확성을 확인하고 싶기 때문입니다. 하지만 Anthropic은 여러 방안을 제시했습니다. 경제 보조금을 설정한 적도 있습니다. 경제 지표도 있습니다. 저는 세금과 거시경제 정책을 통해 이러한 위험에 대응할 가능한 경로에 대해 이야기합니다. 새로운 직업이 무엇인지에 대해서도요.

기술의 초기 단계에서 저는 임무와 작업의 차이점, 왜 이번이 과거와 다른지에 대해 약 5페이지 분량을 할애해 설명했고, 개인 자선부터 정부 조치까지 우리가 할 수 있는 6가지 일을 나열했습니다. 문제에 대해 이야기했고, 해결책에 대해서도 이야기했습니다.

하지만 소셜 미디어는 정말 혐오합니다. 하나의 범주로서 정말 혐오합니다. 사람들은 1년 전의 3초짜리 짧은 영상만 캡처하고, 실제로 기사를 읽지 않거나 소셜 미디어의 특성을 이용합니다. 저는 기사에서 이러한 위험을 매우 엄격하게 다뤘습니다.

이것이 단순한 저렴한 마케팅이라고 생각하는 것 자체가 저렴한 마케팅이다. 그것은 게으름이다. 진지한 지적 작업과 소통하지 못한 실패다. 나는 이것이 문제의 일부라고 생각한다. 다시 말하지만, 이것이 실리콘밸리의 고질적인 문제의 일부라고 본다. 이 3초짜리 소셜 미디어 세계에 갇혀 버렸다.

그래서 사람들은 이런 콘텐츠에만 반응하거나, 자신들이 이런 콘텐츠에만 반응하면 된다고 생각한다. 다시 말하지만, 나는 이것이 매우 위험하다고 생각하며, 우리는 성숙한 대화를 나누지 못하고 있다.

대신 사람들은 게으르게 이 3초짜리 클립만 바라본다. 그러고는 말한다, 아, 이게 다리오가 그때 말한 거구나. 너무 어리석다. 너무 진지하지 않다. 누군가 이렇게 말할 때마다 나는 그 사람에 대한 평가를 낮춘다.

국가 안보와 군사 AI의 레드라인

내레이션: 세계를 선도하는 AI 기업 중 하나가 군사 작전을 포함한 미국 국가 안보의 여러 측면에 깊이 관여하고 있다. Anthropic과 Pentagon 간의 AI 군사 안전 조치를 둘러싼 대립이 격화되고 있다.

Emily Chang: 당신은 Caltech 시절로 거슬러 올라가는 오랜 반전(反戰) 입장을 견지해 왔다. 그런데도 당신은 Department of Defense와 계약을 체결해 U.S. 기밀 네트워크에서 운영되는 최초의 AI 기업 중 하나다. 전쟁을 수행하기 위해 사용된다. 설명해 달라.

Dario Amodei: 좋다. 내가 말하고 싶은 것은, 세상은 끊임없이 변한다는 점이다. 이 기술에 대한 내 견해를 말하자면, 나는 우리가 부활한 권위주의 세력과 맞서고 있으며, 그들은 매우 공격적이고 우리는 스스로를 방어해야 한다는 점을 우려한다.

이것은 내가 항상 믿어 왔고 지금도 고수하는 견해이며, 바로 그 이유로 두 정권 동안, 비록 모든 정책에 동의하지는 않을지라도, 우리가 일반적으로 이를 지지해 온 이유다.

그래서 우리가 그들과 협력하는 이유다. 우리는 물론 돈 때문에 이 일을 하는 것이 아니다. 법적 분쟁을 제외하더라도, 정부 네트워크에 배치하는 것은 보상이 적고 엄청난 노력이 든다. 그래서 우리는 사명감 때문에 이 일을 한다. 하지만 마찬가지로, 우리가 우려 때문에 이 일에 참여하는 만큼, 해당 기술의 사용에는 제한이 있어야 한다.

[기술 발전 단계에 대해 이야기할 때 저는 이런 관점을 제시한 적이 있습니다: 우리는 모든 면에서 이 기술을 활용해야 하지만, 우리의 가치관을 훼손하는 방식은 제외해야 한다는 것입니다. 그리고 우리가 설정한 대규모 감시와 완전 자율 무기라는 레드라인은 바로 제가 우리의 가치관을 훼손한다고 생각하는 것들입니다.

이런 수단을 사용한다면, 승리하더라도 아무 의미가 없습니다. 이것이 제가 보는 균형점이며, 우리가 취하는 입장입니다. 또한 이것이 우리가 Department of War와 협력한 최초의 기업 중 하나이면서도, 다른 사람들이 특정 행동을 기꺼이 할 때 우리는 하지 않는 이유를 설명합니다.

저는 여러분이 입장을 선택하고 끝까지 밀고 나가야 한다고 생각합니다. 기업의 입장이 흔들리는 방식——처음에는 정부와 협력하지 않겠다고 선언했다가 갑자기 정부의 모든 요구를 수용하는 것——은 정말 이해할 수 없습니다. 여러분은 원칙을 선택하고 그것을 지켜야 합니다.

Emily Chang: 당신은 2024년부터 Palantir와 협력해 왔습니다.

Dario Amodei: 맞습니다.

Emily Chang: 그들의 기술은 ICE와 가자의 경찰 부서에서 사용되고 있습니다. Claude가 다른 방식으로 감시에 사용되고 있나요?

Dario Amodei: 우리는 Palantir를 통해서든 다른 경로를 통해서든 ICE와 협력하지 않습니다. 우리는 CBP와도 협력하지 않습니다. 가자에 사업이 있다고 생각하지 않습니다. 우리는 우리가 동의하는 분야로만 협력 범위를 매우 신중하게 제한하고 있습니다.

Emily Chang: 그래서 당신은 레드라인을 설정했고, 대통령은 당신이 연방 정부와 협력하는 것을 금지했으며, 국방부는 당신을 공급망 위험으로 지정했고, OpenAI는 당신이 거절한 계약을 체결했습니다. 이 싸움에서 승리하는 것은 실제로 어떤 모습인가요?

Dario Amodei: 저는 민간 기업이 이 싸움에서 승리할 수 있다고 생각하지 않습니다. 이것은 전혀 싸움이 아닙니다. Anthropic은 승리하려는 것도 아니고, 승패를 고민하는 것도 아닙니다. 이것은 오히려 정부가 AI를 어떻게 올바르게 사용해야 하는지에 대한 논쟁에 가깝습니다. AI는 신흥 기술입니다. 우리는 아직 어떤 분야에서 신뢰할 수 있고 어떤 분야에서 신뢰할 수 없는지 잘 모릅니다. 우리는 아직 어떤 분야에서 우리의 가치관을 증진시키고 어떤 분야에서 약화시키는지 잘 모릅니다.

따라서 제가 중요하게 생각하는 것 중 하나는, 우리가 좋은 사용 사례라고 생각하는 것—솔직히 말해 대부분의 사용 사례는 좋습니다—그리고 우리가 우려하는 사용 사례에 대해 선례를 확립하는 것입니다. 제가 말씀드렸듯이, 계약이 할 수 있는 역할에는 한계가 있으며, 다른 사람들이 여러분과 동일한 기준을 존중하지 않는 계약에 서명할 수도 있다는 것을 우리는 이미 목격했습니다.

하지만 그것이 한 역할은 이 주제에 대한 인식을 높이는 데 기여했다는 점입니다. 현재 의회에서는 진지한 초당적 협력이 이루어지고 있으며, 우리가 우려하는 일부 사항을 금지하고 보호 장치를 마련하려고 시도하고 있습니다. 다시 한번 말씀드리지만, 저는 이를 싸움으로 보고 싶지 않습니다. 그러나 어떤 면에서는 이것이 우리나라가 이 기술을 적절히 사용하는 방법에 대해 더 신중하게 생각하도록 촉진하는 데 효과를 거두고 있습니다.

가치관과 군사 윤리

Emily Chang: Anthropic의 운영자는 이념적 광신자이며, 그가 유일한 의사 결정권을 가져서는 안 됩니다. 제가 더 우려하는 것은 더 넓은 범위의 AI 문제입니다. 당신이 이념적 광신자 또는 좌파 광신자 집단이라고 불리는 것을 꺼리나요?

Dario Amodei: 저는 항상 그보다 더 심한 욕을 들어왔습니다. 사람들은 저나 Anthropic을 마음대로 부를 수 있습니다. 진정으로 중요한 것은 두 가지입니다: 회사로서 성공을 거두는 것, 그리고 우리의 가치관을 지키는 것. 사실 어떤 면에서 제 삶은 매우 편안합니다. 왜냐하면 그 두 가지만 추구할 때는 정말 간단하기 때문입니다. 그렇지 않나요? 그렇게 하면 항상 자신의 입장이 명확해집니다.

Emily Chang: 한 미국 관리는 LLM의 도움으로 미군이 일일 타격 목표 수를 1,000개에서 5,000개로 늘렸다고 밝혔습니다. 이는 Claude가 더 빠르게 더 많은 사람을 살상하는 데 도움을 줄 수 있다는 뜻입니다. 당신은 이에 대해 안심하나요?

Dario Amodei: 여기에는 두 가지가 있다고 생각합니다. 첫째는 미국이 군사적으로 효율성을 높이는 능력입니다. 저는 이 능력을 지지합니다. 더 강력한 이런 능력이 전쟁을 유발하지 않고 오히려 전쟁을 억제할 수 있다고 생각합니다. 기본적으로 당신은 이 나라를 신뢰하는지, 그리고 이 나라가 세계 무대에서 영향력이 약한 행위자가 아닌 더 강력한 행위자가 되기를 바라는지 묻는 것입니다. 저는 그렇습니다. 저는 애국자입니다.

또 하나 별개의 문제는, 미국 정부가 참여하는 특정 정책을 내가 지지할 수도 있고 지지하지 않을 수도 있다는 점입니다.

정부가 참여하는 정책 중에는, 분명히 내가 지지하는 것도 있고 지지하지 않는 것도 있습니다. 이는 내가 결정할 문제가 아닙니다. 만약 우리가 기술을 제공했고, 국방부가 이를 제안했으며, 우리가 실제로 그들의 의견에 동의했다고 가정해 봅시다. 우리가 기술을 제공했다고 해서, 당신이 어떤 군사 작전을 수행할 수 있는지 또는 수행할 수 없는지를 결정할 권한은 우리에게 없습니다.

지금, 개인적으로 나는 어떤 군사 작전은 타당하다고 생각하고, 다른 군사 작전은 나쁜 생각이라고 판단할 수 있지만, 우리는 기술의 역할 자체를 부정하지는 않을 것입니다.

정책 결정은 군사 결정권자에게 맡겨야 합니다. 당신이 할 수 있는 것은 몇 가지 상위 수준의 경계를 설정하는 것입니다. 우리의 경우, 이는 우리의 가치관, 우리 국가의 가치관에 부합하지 않는 사용 사례를 방지하고, 우리의 가치관을 증진하는 데 도움이 된다고 생각하는 사용 사례를 추진하는 것입니다. 이것이 우리의 사고 방식입니다.

Emily Chang: Bloomberg는 미군이 이란 전쟁에서 Claude를 사용하여 Palantir가 제작한 플랫폼 Maven Smart System을 통해 AI 기반 표적 지정을 수행했다고 보도했습니다. 보도에 따르면, 2월에 미국 미사일이 이란의 한 여학교를 타격하여 150명 이상이 사망했으며, 대부분이 어린이였습니다. Claude가 그 공격에 역할을 했습니까?

Dario Amodei: 우리는, 봐요, 우리는 접근할 수 없습니다. 우리는 이 모델들이 정확히 어떻게 사용되었는지 알지 못합니다. 분명히, 전쟁에서 발생한 이러한 실수는 정말로, 매우 끔찍하며, 이는 정말로 끔찍한 일입니다.

이것이 우리가 지지하지 않는 사용 사례에 반대하는 입장을 고수해야 하는 이유를 설명하지 못한다면, 우리는 심지어 회사의 미래를 위험에 빠뜨릴 위험을 감수하면서까지 이러한 모델의 사용 방식을 제한할 의향이 있습니다. 그리고 당신이 언급한 그 사용 사례는 심지어 우리의 레드라인(red line)을 넘지도 않았습니다.

우리는 미래에 100배 더 많은 사용 사례가 등장할 것을 우려하며, 그중 일부는 실제로 우리의 레드라인을 위반할 것입니다. 지금, 다시 말하지만, 나는 전반적으로 이러한 모델의 사용이 적절하다고 생각합니다. 순 효과(net effect)는 긍정적이라고 생각합니다.

하지만 군사 결정권자들은 최고의 시기에도 극도로 심각한 실수를 저지를 수 있으며, 나는 우리가 지금 최고의 시기에 있는지 알 수 없습니다.

예를 들어, 몇 가지 논의할 점이 있습니다. 우리는 이러한 문제를 초래할 가능성이 더 높은 모델 사용 방식을 방지하기 위한 레드라인을 어떻게 설정할지 논의할 수 있습니다. 만약 우리가 처음부터 허용하고 완전히 방치했다면, 지금 거의 모든 다른 회사들처럼 전자동 무기에 굴복했다면, 여기서 볼 수 있듯이 Claude가 보조 역할을 하지만 인간이 최종 결정을 내리는 방식이었을 것입니다.

따라서 Claude가 아닌 인간이 최종 결정을 내린 것입니다. 만약 어떤 세상에서——Claude가 아니라, 우리가 허용하지 않았기 때문이지만, 다른 사람들의 AI 모델이——AI 모델이 직접 결정을 내리고 인간이 전혀 관여하지 않는 세상을 상상해 보십시오. 이것이 바로 우리가 지키고자 하는 것입니다.

그것이 바로 우리가 저항하는 것입니다. 제가 말씀드리고 싶은 것은, 여기에 또 다른 문제가 있다는 점입니다. 다시 말하지만, 조달이 이를 달성하는 올바른 방법은 아니라고 생각합니다. 하지만 우리는 반드시 확인해야 합니다——이는 기술 공급자로서 저뿐만 아니라 미국 국민 모두가 관심을 가져야 할 문제입니다——즉, 미국의 군사 의사 결정자들이 이러한 실수를 저지르지 않도록 하는 것입니다.

그들이 안정적으로 운영되고 행동을 취할 때 현명한 선택을 하도록 보장하는 것입니다.

마찬가지로, 시민이자 기술 공급자로서 저도 이 문제에 관심을 가지고 있습니다. 예를 들어, 정부가 기술을 사용할 때 우리는 Microsoft Excel을 많이 사용합니다. 만약 여러분이 Excel을 특정 군사 작전에는 사용할 수 있지만 다른 작전에는 사용할 수 없다고 말한다면, 현실에서는 이를 실현할 수 없습니다. 이것이 우리가 이 문제를 어떻게 생각하는지 이해하는 데 도움이 되길 바랍니다.

Emily Chang: 이 학교에는 웹사이트가 있었고, Google 검색에서 찾을 수 있었을 텐데, Claude가 이를 발견하지 말아야 했을까요? 아니면 AI나 그들이 사용한 어떤 기술이 이를 발견하지 말아야 했을까요? 이는 전쟁에서 기술을 지름길로 활용하는 것에 대한 더 우려스러운 문제를 제기하는 것 아닙니까?

Dario Amodei: 들어보세요, 들어보세요, 제가 말씀드리고 싶은 것은, 저는 확신할 수 없습니다, 정말 확신할 수 없습니다. 이는 제가 알지 못하는 기밀 정보에 의존할 수 있습니다. 하지만 우리가 이미 확립한 원칙, 그리고 여기서 준수되었다고 생각하는 원칙은 인간이 최종 결정을 내린다는 것입니다. Claude나 다른 AI가 어떤 역할을 했는지 모르겠지만, 이것이 왜 그 원칙이 중요한지 설명하지 않는다면, 무엇이 설명할 수 있을지 모르겠습니다.

에밀리 창: AI 전쟁이 제3차 세계대전을 막을 가능성이 더 높을까요, 아니면 전쟁을 촉발할 가능성이 더 높을까요?

다리오 아모데이: 전반적으로, 저는 전쟁을 막을 가능성이 더 높다고 생각합니다. 하지만 사용 방식에 아무런 제한이 없다면, 오히려 전쟁 발발로 이어질 가능성이 더 크다고 봅니다. 영화 '닥터 스트레인지러브'를 보셨나요? 그 영화의 전제는, 어떤 종말 장치가 자신이 핵 공격을 받고 있다고 판단하면 자동으로 핵무기를 발사해 반격하는 것입니다.

여기서 무슨 문제가 생길 수 있을까요? 다시 말해, 치명적이고 완전 자율적인 무기 같은 주제가 떠오릅니다. 저는 갈등이 발생하는 방식이 양측이 서로를 견제하고 기회를 엿보는 데 있다고 봅니다. 그들은 오해를 하게 됩니다. 이 기술에 대한 적절한 감독이 부족하다면, 이런 사고가 발생할 가능성이 높아진다고 생각합니다.

이제, AI가 적절히 활용된다면, 심지어 전쟁에 국한되지 않고 정보 수집 분야만 고려해도 그렇습니다. 상상해보세요, 우리가 상대방의 모든 움직임을 파악하고 있을 때, 그들은 어떤 침략이나 군사 작전을 감행하려고 해도 신중해질 것입니다. 따라서 저는 탁월한 정보 능력이 실제로 갈등을 막을 수 있다고 생각합니다. 뛰어난 대응 능력이 갈등을 억제할 수 있습니다. 저는 항상 이러한 것들을 믿어왔습니다.

미토스: 최첨단 모델의 안전 게임

에밀리 창: Anthropics는 거의 매주 뉴스 헤드라인을 장식하고 있습니다. 물론, 현재 가장 주목받는 것은 미토스입니다.

내레이션: 이것은 현재 가장 새롭고 강력한 Anthropic 모델로, 사이버 킬 체인의 모든 단계를 자율적으로 관통할 수 있습니다.

에밀리 창: 당신은 미토스의 능력이 너무 강력해서 대중에게 공개하기에 적합하지 않다고 말한 적이 있습니다. 이 모델에 대해 가장 놀라운 점은 무엇인가요?

다리오 아모데이: 제가 가장 놀라운 점은 모델이 취약점을 발견하는 능력이 계속해서 향상되고 있다는 점이며, 더 중요한 것은 이러한 취약점을 익스플로잇으로 전환할 수 있다는 점입니다. 사람들은 보통 취약점 자체에 대해서만 논의합니다. 취약점을 익스플로잇으로 전환하는 과정에 대해서는 잘 이야기하지 않는데, 이 모델은 그 부분에서 상당히 뛰어난 성과를 보여주고 있습니다.

그래서 저를 놀라게 한 것은 우리가 이 엄청난 도약을 목격했다는 점입니다. 특히나 큰 폭의 도약이었죠. 그리고 아무런 안내 없이, 우리가 처음에 이 기술을 제공했던 일부 회사들은 이것이 마치 슈퍼 웨폰과 같다고 말했습니다. 이를 사용하려면 총기 면허증을 소지해야 할 정도라고요.

이 내용을 공개하지 말아 주세요. 이러한 사용 제한 요구는 바로 우리가 기술을 제공한 회사들로부터 나온 것입니다. 그들은 수많은 주요 취약점과 그 취약점을 둘러싼 악용 가능성을 발견했고, 기본적으로 우리에게 이를 공개하지 말 것을 요청했습니다.

분명히 해야 할 점은, 소셜 미디어 분야의 정보는 항상 왜곡되기 때문에, 우리의 목표는 이를 영원히 봉인하는 것이 아니라는 것입니다. 우리는 이 기술을 점진적으로 개방하려고 노력하고 있습니다. 점점 더 넓은 범위의 사람들을 대상으로요. 궁극적으로, 우리는 Mythos를 대중에게 공개해야 하지만, 강력한 사이버 보안 보호 조치를 갖춰야 한다고 생각합니다.

현재 우려되는 점 중 하나는, 우리가 Opus 4.7과 함께 현재의 사이버 보안 보호 조치를 공개했지만, 이는 훌륭한 사이버 보안 모델이지만 능력이 훨씬 약하며, 이러한 조치는 탈옥될 수 있다는 것입니다. 우리는 이것이 충분한 방어 수단이라고 생각하는 다른 회사들에 대해 다소 우려하고 있습니다. 때로는 효과적이긴 하지만, 우리 모두 이러한 분류기가 탈옥되거나 우회될 수 있다는 것을 알고 있기 때문입니다.

자체 테스트에 따르면, 솔직히 말해 다른 회사들이 채택한 방어 조치에 대한 우리의 평가에 따르면, 이러한 방어 조치는 현재 충분히 강력하지 않습니다. 이것이 바로 우리가 현재 기다리고 있는 이유입니다. 방어 능력이 우리가 진정으로 신뢰할 수 있는 수준에 도달할 때까지 말이죠.

Emily Chang: 당시 이에 대해 많은 반발이 있었습니다. 일부 연구자들은 더 저렴한 오픈소스 모델을 사용해 이 과정을 재현할 수 있다고 주장했습니다. 어떤 이들은 OpenAI가 이미 이러한 능력을 보유하고 있다고 말하기도 했죠. 그렇다면, 이것이 대규모 PR 쇼였다고 생각하는 사람들에게 어떻게 대응하시겠습니까?

Dario Amodei: 오픈소스 모델을 통해 재현할 수 있다는 주장은 완전히 틀렸습니다. 이 시스템의 핵심 개념은 Mythos가 전체 코드베이스를 검토하고 문제를 발견할 수 있다는 것입니다. 누군가 트위터에서 오픈소스 모델을 Mythos가 발견한 그 특정 코드 줄에만 집중하도록 하면 같은 문제를 발견할 수 있다고 말했습니다. 그건, 그건 프롬프트가 아니고, 그건 그 문제가 아니며, 말하자면, 그건 전혀 같은 것이 아닙니다.

이에 대한 궁극적인 테스트로, 우리는 기업에 접촉하고 오픈소스 코드베이스를 검토한 결과 Firefox에서 271개의 새로운 취약점을 발견했습니다. 아직 패치되지 않았거나 공개되지 않은 취약점이 있는 민간 기업들에서도 수천 개의 취약점을 이미 발견했습니다.

마치 이전 모델에서는 아무도 그 271개의 취약점을 발견하지 못했던 것과 같습니다. 그래서 "내가 Mythos가 발견한 정확한 코드 라인을 찾았고, 바늘 더미에서 바늘을 찾았으며, 이제 다른 것들이 이 바늘을 집을 수 있다"는 상황과 비교할 때, 실제로 효과적인 작업 흐름은 또 다른 이야기입니다.

하지만 이것이 단순한 마케팅 수단이라고 말하는 사람들에게 말하고 싶습니다. 우리는 이 모델을 출시하지 않음으로써 상업적으로 막대한 손실을 입었습니다. 이 모델은 Anthropic 내부의 연구와 후속 모델 생산을 크게 가속화했으며, 만약 출시했다면 외부 세계에도 동일한 가속 효과를 가져왔을 것입니다. 이는 상업적으로 우리에게 큰 타격을 주었습니다.

Emily Chang: 이것이 방어자에게 도움이 된다면, 공격자에게도 도움이 될 것입니다. 우리는 여전히 무엇이든 방어할 수 있을까요?

Dario Amodei: 제가 말하고 싶은 것은, 우리가 Mythos를 공격자에게 제공하기 전에 방어자에게 먼저 제공한 이유는 모든 취약점을 패치하기 위해서입니다. 모델이 점점 더 좋아짐에 따라 더 많은 취약점이 발견될 수도 있지만, 취약점의 수는 결국 유한합니다. 그것들은 한정적입니다. 마치 표면에 구멍이 제한된 수만 있는 것과 같습니다.

모든 취약점을 패치하면 표면은 극도로 공격하기 어려워집니다. 동시에 코드 자체도 강력한 모델에 의해 작성되므로, 결함을 찾거나 침입하기가 매우 어려워집니다. 따라서 다른 측면에서 보면, 6개월 또는 1년 후에는 과거보다 더 안전한 인터넷 생태계를 가질 수 있기를 바랍니다. 우리는 그 목표를 향해 노력하고 있으며, 새로운 사이버 방어자들에게 mythos를 최대한 개방하기 위해 최선을 다하고 있습니다.

우리는 정부와 지속적으로 소통해 왔습니다. 그들의 조언을 매우 존중합니다. 역스파이 위험을 우려해 그들은 우리의 개방 속도를 늦추고 있습니다. 위험. 저는 이것이 현명하다고 생각합니다. 여기 있는 모든 진지한 사람들은 여기에 진정한 트레이드오프가 존재한다는 것을 이해하고 있다고 생각합니다.

우리는 트위터에서 사람들과 다른 AI 기업들이 이에 대해 많은 신랄한 비판을 하는 것을 봅니다. 그들의 발언을 살펴보고, 그들의 말과 행동이 일치하지 않는 방식을 보십시오. 그들은 진지한 사람들이 아닙니다. 그들은 우리가 여기서 직면한 엄중한 트레이드오프를 진지하게 받아들이지 않고 있습니다.

보시다시피, 매일 고객들이 저에게 전화해서 "Mythos를 사용하고 싶다"고 말합니다. 국가에서도 전화해서 "Mythos를 사용하고 싶다"고 말합니다. 반면 미국 정부와 제 보안팀은 "아니요, 잠깐만요, 여기에는 위험이 있습니다"라고 말합니다. 저는 어느 쪽이 옳다고 말하는 것이 아닙니다.

진실은 그 중간에 있다고 생각합니다. 양측 모두 합리적인 의견을 가지고 있습니다. 양측 모두 합리적인 의견을 가지고 있습니다. 하지만 여기에는 우리가 사회 전체가 함께 직면해야 할 진정한 도전이 있습니다. 어떤 것을 단순히 싸구려 마케팅으로 치부하거나, 다른 일부 회사들처럼 최고 마케팅 책임자를 이용해 역포지셔닝을 시도해서는 안 됩니다.

이 모든 것은 믿기 어려울 정도로 위엄과 성숙함의 부족을 보여줍니다. 우리는 이 순간을 함께 맞이해야 합니다.

견제와 균형, 그리고 정부 규제

Emily Chang: 이미 불편함을 느끼게 하는 절충을 해야 했던 적이 있나요?

Dario Amodei: Anthropic의 전체 역사는 항상 절충의 과정이었습니다. 이상적인 세계에서는 첫 번째 챗봇을 출시하기 전에 모든 문제가 발생할 수 있는 부분을 연구하는 데 수년을 더 투자했을 것입니다. 현재 우리는 실제로 연기했습니다.

우리는 실제로 Claude의 첫 출시를 연기했지만, 몇 달밖에 연기하지 않았습니다. 그래서 저는 모든 것이 절충이며, 스펙트럼의 극단에 있는 것은 완전히 미친 짓이라고 말합니다. 따라서 모든 것은 절충입니다.

제가 말씀드리고 싶은 것은, 현재 제가 설명한 비즈니스 선도적 위치에 있기 때문에, 실제로 저와 Daniela는 신중하게 행동하는 측면에서 더 나아가기 위해 최선을 다하고 있습니다. 이것이 바로 Mythos 출시의 목적이며, 업계 선도자가 아니라면 이를 달성하기 어렵습니다. 따라서 앞으로 더 많은 유사한 일이 일어날 것이라고 생각합니다.

Emily Chang: 정부가 왜 당신들을 인수하지 않는가라는 의견이 있습니다. 왜 그들이 이렇게 강력한 기술을 민간 기업이 통제하도록 내버려 두는 걸까요?

Dario Amodei: 저는 이것이 정말로 심각한 질문이라고 생각하며, 이러한 우려에 동의합니다. 정부가 우리를 직접 인수해야 한다고 생각하지는 않지만, 이렇게 표현할 수 있습니다. 제가 말씀드리고 싶은 것은, 현재 상황을 되돌아보고 설명하자면, 역사적으로 우리가 본 모든 이전 세대의 강력한 기술은 정부에 의해 구축되었거나 정부에서 시작되었습니다.

예를 들어 핵무기는 분명히 처음에는 정부가 건설했고, 이후에도 기본적으로 정부 주도로 건설되었습니다. 하지만 인터넷, GPS, 휴대폰과 같은 기술조차도 모든 연구 개발 작업은 실험실, 연방 실험실 및 대학에서 이루어졌습니다.

AI는 민간 부문에서 구축된 최초의 기술로, 정부는 실질적인 역할을 하지 않았으며 진입이 상대적으로 늦었습니다. 저는 이것이 실제로 위험하고 불안정한 상황이라고 생각합니다. 제가 선택할 상황은 아닙니다. 대안도 없고, 이 기술 자체가 구축될 수 있는 것입니다. 우리의 경쟁자들은 구축을 진행 중이며, 이는 경제적 가치가 있습니다. 어차피 결국 구축될 것입니다. 문제는 민간 부문이 하고 있는 것이 아니라 정부가 참여하지 않았다는 점입니다.

저는 권력의 균형을 고려해야 한다고 생각하며, 따라서 AI 기업의 권력에 대한 견제와 균형이 필요하다고 봅니다. 우리에게는 Long-term Benefit Trust라는 메커니즘이 있는데, 이는 본질적으로 이사회 구성원의 과반수를 임명하고 해임할 수 있는 기관입니다. 그 논리를 끝까지 관통하면, 실제로 저를 해고할 권한을 가지고 있습니다.

우리는 지금 일부 요소를 도입하고 있습니다. 물론 모든 요소는 아니지만, 공공 거버넌스와 유사한 요소를 도입하고 있습니다. 즉, 회사의 주주뿐만 아니라 누군가에게 책임을 져야 한다는 것입니다. 이것은 매우 중요하며, 회사에 어떤 일이 일어나든 이 구조는 지속될 것입니다. AI 분야에서 우리는 다른 기업들도 유사한 구조를 채택하도록 장려하고 있습니다.

정부 측면에서는 견제와 균형이 필요하다고 생각합니다. 의회는 이미 레드라인을 설정하기 위한 노력을 발표했습니다. 따라서 저는 입법부와 사법부가 역할을 해야 한다고 생각합니다. 이 기술에 대해 저는 기업이 장악하는 것도, 정부가 장악하는 것도 모두 우려하기 때문입니다.

이어서, 기업은 정부에 대한 견제가 필요하고, 정부는 기업에 대한 규제가 필요합니다. 우리는 이 기술에 대한 근본적인 규제가 필요합니다. 저는 출시 전 테스트, 즉 의무적인 출시 전 테스트와 모델에 대한 테스트 및 감사를 시작해야 한다고 생각합니다.

저에게 매우 아이러니한 점은, 실리콘밸리 기술계의 한 그룹이 처음에는 이 기술에 대한 투명성 확보나 수출 통제조차도 우리가 이 기술을 창출할 잠재력을 완전히 파괴하고 혁신을 질식시킬 것이라는 입장을 취했다는 것입니다. 그러나 그들이 제가 항상 예상했던 첫 번째 진정한 위험을 목격하자 상황이 바뀌었습니다. 그들은 소위 국유화를 크게 주장하기 시작했으며, 정부가 직접 이를 인수해야 한다고 생각합니다.

그만하세요, 여러분. 당신들의 태도는 극단적인 반규제—예를 들어 '우리를 한 번만 더 쳐다봐도 업계를 파괴하는 거야'—에서 완전한 공산주의적 접근인 '정부가 모든 것을 가져가야 한다'로 왔다 갔다 하고 있습니다. 우리는 더 합리적이고 온건한 접근 방식이 필요합니다.

이것이 바로 우리가 줄곧 주장해 온 바입니다. 우리는 이 기술이 지닌 힘을 깊이 이해하고 있기 때문입니다. 우리는 당황하지 않습니다. 부정하지도 않습니다. 우리는 완만한 기하급수적 성장을 보고 있으며, 이에 맞춰 대응하고 있습니다.

그렇다면, 백악관 방문은 어땠나요? 우리는 항상 협력할 수 있는 사람과 함께 일하려고 노력합니다. 정부 차원에서 저는 우리에게 간단한 방법이 있다고 말했습니다. 원칙이 있습니다. 우리는 이 원칙을 따르며, 상대방이 합리적이길 바랍니다. 솔직히 말해, 정부는 mythos를 매우 진지하게 받아들이고 있습니다.

예를 들어, 우리는 Secretary Bessent 및 Chief of Sotomay와 좋은 대화를 나눴습니다. 그리고 비서실장 Susie Wiles도 있습니다. 그들이 여기서 위험의 본질을 이해하고 있다고 생각합니다. Mythos가 그들이 이러한 위험이 어디에 있는지 더 구체적으로 인식하도록 돕고 있다고 봅니다.

따라서, 어떤 정부든 마찬가지로, 우리와 매우 잘 협력하고 이를 이해하는 부서도 있고, 물론 다루기 어려운 부서도 있습니다. 이는 정상적인 일이라고 생각합니다. 이런 상황은 어떤 정부에서나 발생하며, 우리는 단지 최선을 다해 적절히 대응하려고 할 뿐입니다.

지능 프리미엄, 지정학, 그리고 미래 전망

Emily Chang: 당신은 초기 경력에 Baidu에서 일한 적이 있습니다. 그곳은 대형 중국 기술 기업으로, 실리콘밸리 지사에서 근무했으며, 중국에 대해 명확한 견해를 가지고 있었습니다. 중국은 강력한 오픈소스 모델을 내놓고 있고, 미국 기업들은 이를 기반으로 무료로 개발하고 있습니다. 이것이 위협인가요?

Dario Amodei: 그래서, 우리가 이 기술에서 보는 한 가지는 모델 지능의 프리미엄이 실제로 매우 높다는 점입니다. 사람들이 더 낮은 지능의 모델을 선호하는 경우는 극히 드뭅니다. 분명히 말하자면, 이미 번성하는 생태계가 존재합니다. 우리가 최첨단 모델을 필요로 하는 문제보다 훨씬 간단한 많은 도전과 문제들이 있습니다.

하지만 다시 강조하자면, 이는 기하급수적인 성장입니다. 즉, 이러한 비최첨단 모델들이 2023년과 2024년에 우리가 목격한 것과 상당한 경제적 가치를 가질 수 있지만, 우리가 매년 10배씩 성장하고 있다는 사실을 잊지 말아야 합니다.

따라서 우리는 최첨단에 있는 것이 항상 최첨단에서 멀리 떨어진 것보다 훨씬 더 강력하다는 사실을 발견했습니다. 저는 이 점이 과거 시대에 제품을 구축하는 데 익숙한 사람들에게는 아직 충분히 이해되지 않을 것이라고 생각합니다. 이전에 회사를 운영해 본 적이 없고, 이전 제품 시대에 대해 생각해 본 적이 없으며, 특히 소셜 미디어 시대를 혐오하는 사람으로서 말이죠.

저는 마치 그 세계 밖의 아웃사이더인 것처럼 느껴집니다. 그리고 사람들의 직관이 잘못되었다고 생각합니다. 그들은 제품에 관한 다양한 경험 법칙을 가지고 있습니다. 매년 10배의 기하급수적 성장 모델이 실제로 이를 깨뜨린다고 생각합니다. 마치 지능이 모든 것을 압도하는 극도로 중요한 요소인 것처럼 말이죠. 그래서 우리는 계속해서 가치가 최첨단 영역에 존재한다는 것을 목격하고 있습니다.

현재, 일부 지연된 모델에 대해 제가 우려하는 점은 그것들이 초래하는 위험, 즉 우리가 직면한 Mythos급 네트워크 공격 능력입니다. 12개월 후에는 더 강력한 네트워크 능력을 갖게 되겠지만, Mythos급 네트워크 공격 능력은 그때쯤이면 누구나 다운로드할 수 있게 될 수도 있습니다. 그 전에 모든 것을 패치했으면 좋겠습니다. 이를 막을 방법이 있다고 생각하지는 않지만, 심각한 문제라고 생각합니다.

Emily Chang: baidu에서 보고 들은 것이 중국에 대한 당신의 시각을 형성했나요?

Dario Amodei: 아니요, 정말 그렇지 않습니다.

저는 그곳에서 1년 동안 일했습니다. 아마도 음성 인식이나 그런 것들에 대해 더 많이 배운 것 같습니다. 유일하게 우려되는 점은 음성 인식 데이터를 얻는 방식 중 일부가 중국에서는 프라이버시를 신경 쓰지 않기 때문에 우리가 이 모든 음성 인식 데이터를 보유하고 있다는 점입니다.

하지만 그 점 외에는, 제가 여기서 우려하는 것은 지정학적 측면입니다. 중국에서 일어나는 일 중 가장 우려되는 점은 미국에서도 목격한 현상, 즉 비판 목소리에 대한 억압입니다. 예를 들어 홍콩 문제에서 일어난 일, 미국의 현실에 개입할 수 있는 능력 같은 것들 말이죠.

상업 네트워크와 비판 억압, 그것은 권위주의 국가입니다. 그리고 첨단 기술 권위주의 국가입니다. 이러한 상황이 AI와 결합되는 것을 볼 때, 당신은 여기서 디스토피아를 얻게 됩니다. 마치 1984년이나 그보다 더 나쁜 상황처럼 말이죠.

저는 이 상황을 막는 데 초점을 맞추고 있습니다. 우리에게는 이를 저지할 기회가 있다고 생각합니다.

저는 AI가 자유를 지지하는 기술, 즉 인간을 더 자유롭게 만들고 모든 사람을 위한 평등한 정의의 약속을 실현할 수 있는 기술이 될 기회가 있다고 봅니다. 그렇지 않으면 반대 방향으로 갈 수도 있습니다. 미래가 어디로 향할지는 AI 기업의 행동, 정부의 행동, 그리고 우리 모두의 행동에 달려 있습니다. 따라서 우리에게는 이에 대한 책임이 있다고 생각합니다.

자기 반복과 문명의 존속

Emily Chang: 당신 분야 사람들은 AI가 스스로를 개선할 수 있을 만큼 강력해지고, 개선된 버전이 다시 자기 반복을 계속하는 순간에 대해 자주 이야기합니다. 당신 연구진 중 일부는 이 순간이 곧 올 것이라고 봅니다. 이 순간이 우리에게 얼마나 가까이 와 있나요?

Dario Amodei: 저는 이것이 특정한 시점이라고 생각하지 않습니다. 저는 이것이 지속적인 과정이라고 봅니다. 어떤 면에서는 우리가 이미 이를 목격했습니다. AI가 차세대 AI를 위한 아키텍처를 제안할 수 있게 된 것입니다. 약 1년 전, 우리는 AI 덕분에 총요소생산성이 10%에서 15% 향상된 것을 관찰했습니다. 지금은 그 비율이 20%나 30%로 올라갔을 수도 있습니다. 심지어 두 배가 되고 있을 수도 있습니다.

모든 것과 마찬가지로, 우리는 지수 곡선 위에 있으며, AI가 갑자기 스스로 진화하거나 통제 불능이 되거나 안전하지 않게 되는 특정 순간은 존재하지 않습니다.

우리가 경험하는 것은 끊임없이 가속화되는 지수적 성장입니다. 그리고 지수 곡선의 모든 지점에서 우리는 평가해야 합니다: 지금이 속도를 늦출 때인가? 지금이 이 기술에 더 많은 통제를 가할 때인가? 저는 미래에는 점점 더 많은 통제가 필요할 것이라고 생각합니다. 하지만 이 모든 것을 해결하는 열쇠는 바로 이 매끄러운 지수 곡선에 있다고 봅니다.

다시 말하지만, 한때 AI 규제에 반대하다가 어떤 현상을 보고 국유화를 주장하는 사람들은 우리에게 교훈을 줍니다. 또한 한때 AI의 힘을 얕보다가 AI가 스스로 진화하고 통제 불능이 될 것이라며 완전 중단을 요구하는 사람들도 우리에게 교훈을 줍니다.

이러한 극단적인 반응 사이를 오가는 것은 이 기술에 대응하는 데 극히 비생산적입니다.

올바른 대응 방식, 현명한 대응 방식은 침착함을 유지하고 당황하지 않는 것입니다. 우리의 대응 조치는 기술의 위력이 안정적으로 향상됨에 따라 함께 발전할 것입니다. 누군가가 이런 미친 듯이 흔들리는 반응을 보인다면, 그들은 완전히 허를 찔렸으며 진지하지 않다는 것을 의미합니다.

에밀리 창: 제가 알기로, 당신이 가장 좋아하는 책 중 하나는 《원자폭탄의 탄생》입니다.

다리오 아모데이: 맞아요.

에밀리 창: 당신은 자신과 오펜하이머 사이에 유사점이 있다고 생각하나요?

다리오 아모데이: 제가 가장 공감하는 인물은 레오 실라르드입니다. 그는 연쇄 반응 같은 것이 존재할 수 있다는 개념을 최초로 제안한 사람이었거든요.

들어보세요, 제 생각은 우리가 초월적인 개성이나 모든 것의 중심이 되려는 인물을 통해 이 문제를 해결할 수 없다는 겁니다. 여기에는 권력의 균형이 필요합니다. 많은 강력한 참여자들이 각자의 이해관계를 가지고 있으며, 모두가 좋은 결과를 얻을 수 있는 유일한 방법은 어디에서나 기본적인 견제와 균형을 실현하는 어떤 메커니즘을 구축하는 것입니다.

그래서 어느 정도는 저는 실제로 오펜하이머를 반면교사, 즉 일어나서는 안 될 일로 봅니다.

에밀리 창: 당신은 문명 붕괴 가능성이 약 10%에서 25% 사이라고 말한 적이 있습니다. 이는 무시할 수 없는 수치입니다. 이 결과가 Anthropic에 의해 초래되는 시나리오가 존재하나요?

다리오 아모데이: 물론 그렇지 않기를 바랍니다. 제 생각은 우리가 취한 행동이 그 확률을 높이기보다는 낮추고 있다는 겁니다. 이 확률은 기술 자체의 매우 직관적인 논리에서 비롯됩니다. 세상에는 많은 국가가 있고, 경제 내에는 많은 기업이 있으며, 진공 상태가 채워지지 않으면 새로운 기업이 탄생합니다. 이것이 우리가 직면한 딜레마입니다.

우리는 이 확률을 낮추기 위해 노력하고 있습니다. 우리가 높이는 정도보다 낮추는 정도가 훨씬 더 크다고 생각합니다.

하지만 이 기술의 고유한 속성은 예측 불가능성입니다. 그래서 우리는 제품을 출시하기 전에 많은 구축과 테스트를 진행하며, 현재 출시된 모델은 적어도 사이버 보안 분야 밖에서는 위험하지 않다고 생각합니다. 그런 다음 우리는 반복적으로 학습하려고 합니다. 그래서 우리는 수많은 방어 메커니즘을 가지고 있으며, 회사 내 업무의 절반은 가능한 한 위험을 줄이는 데 집중하고 있습니다.

하지만 위험을 완전히 0으로 낮추는 것은 절대 불가능합니다.

제가 말씀드리고 싶은 것은, 시장에 많은 항공사가 있는데 여러분이 더 안전한 항공사를 창업하기로 결정했다고 가정해 봅시다. 여러분의 항공사는 다른 모든 항공사보다 10배 더 안전할 수 있습니다. 하지만 누군가가 와서 "비행기가 절대 추락하지 않을 거라고 보장할 수 있나요?"라고 묻는다면, 어떻게 보장할 수 있겠습니까? 어떻게 그게 가능하겠습니까?

Emily Chang: 하지만 비행기가 추락할 확률이 25%라면, 당신은 절대 그 비행기를 타지 않을 겁니다.

Dario Amodei: 확실히 그렇습니다. 25%는 너무 높은 확률입니다. 우리는 이 확률을 매우, 매우 낮은 수준으로 낮추기 위해 노력하고 있습니다. 그것이 우리의 목표입니다.

신뢰 구축: 행동으로 차별성을 증명하다

Emily Chang: 여러분은 매우 강력한 무언가를 구축하고 있으며, 그로부터 막대한 이익을 얻을 것으로 기대하고 있습니다. 왜 우리가 여러분을 신뢰해야 합니까?

Dario Amodei: 제 생각에는, 어떤 회사가 막 시작했을 때, 특히 Silicon Valley 전체가 하나의 실체로서 보여준 행동을 고려할 때, 사람들이 이런 시각을 가지는 것은 자연스러운 일입니다. 지난 몇 년을 되돌아보면, 불신의 관점에서 출발하는 것이——만약 당신이 나에 대해 아무것도 모르거나 Anthropic에 대해 전혀 모른다면——상당히 합리적인 태도라고 생각합니다.

Silicon Valley는 이미 세계의 신뢰를 너무 많이 잃었으며, 우리는 그 신뢰를 다시 되찾아야 합니다.

우리가 전달하고자 하는 메시지는, 우리는 확실히 다르다는 것입니다. 그리고 이러한 신뢰는 우리의 실제 행동을 통해 얻어야 합니다. 여러분은 동의할 수도, 반대할 수도 있지만, 우리는 우리의 가치관을 고수해 왔습니다. 신화적인 이야기에 대해 말하자면, 이 매우 강력한 모델을 출시하지 않는 것은 실제로 상업적으로 우리를 제한했습니다.

그 이전에도 많은 사소한 일들이 있었고, 우리는 중국 문제에 대해 말한 대로 행동했습니다. 우리는 모델에 대한 접근 권한을 차단했습니다. 그렇게 할 필요가 없었습니다. 누구도 우리에게 요구하지 않았습니다. 아시다시피, 당시 수억 달러가 우리 총 수익의 상당 부분을 차지하던 시기에, 이로 인해 우리는 수억 달러의 손실을 입었습니다.

예를 들어 Claude II의 출시 연기처럼, 우리는 이런 면에서 오랜 역사를 가지고 있습니다.

우리는 완벽하지 않습니다. 실수도 합니다. 하지만 여러분께 우리의 전체 역사를 살펴봐 주시길 부탁드립니다. 이 역사를 종합했을 때, 우리에 대해 가장 일관된 가정은 무엇일까요? 사람들은 스스로 판단해야 합니다.

하지만 제 생각에 항상 일관된 가정은 우리는 정말로 노력하고 있다는 것입니다. 옳은 일을 하기 위해.

우리는 완벽하지 않습니다. 조직에는 항상 기능 장애 문제가 있습니다. 우리는 이를 고치고 더 잘 작동하게 만들기 위해 끊임없이 노력하고 있습니다. 과정에는 많은 실수와 잘못된 점이 있습니다. 하지만 근본적으로 우리는 옳은 일을 하는 방법에 대해 진지하고 엄숙한 비전을 가지고 있으며, 그 비전을 실행하기 위해 노력하고 있습니다.

Emily Chang: 그렇다면 우리는 지수적 성장의 반대편에서 만나게 될 것입니다.

Dario Amodei: 음, 그렇길 바랍니다.

Emily Chang: 음, 그렇길 바랍니다.

Dario Amodei: CEO 업무에 대해 놀랍고 이전에는 몰랐던 한 가지는 자주 화장을 해야 한다는 점입니다. 이건 전혀 예상치 못한 일이었어요.

Emily Chang: 그냥 파운데이션 약간이에요.

원문 링크

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia