원문 제목: OpenAI CEO Sam Altman과 AWS CEO Matt Garman의 Bedrock Managed Agents에 관한 인터뷰
원문 작성자: Ben Thompson, Stratechery
번역: Peggy, BlockBeats

편집자 주: 4월 27일, OpenAI는 Microsoft와의 협업 계약을 수정하여 Azure가 더 이상 OpenAI 모델을 독점하지 않고, 이에 따라 OpenAI는 제품을 AWS 등 다른 클라우드 플랫폼으로 확장할 수 있게 되었습니다.

참고: Azure는 마이크로소프트의 클라우드 컴퓨팅 플랫폼으로, 일반적으로 Microsoft Azure로 불립니다. AWS, Google Cloud와 마찬가지로 기업에 서버, 데이터베이스, 저장소, 네트워크, 보안, AI 모델 배포 등 클라우드 서비스를 제공합니다.

외부에서는 이것이 그저 클라우드 서비스 유통 채널의 변화로 보일 수 있지만, Sam Altman과 AWS CEO Matt Garman의 대화로 보면, 더 큰 변화는 AI가 "모델 호출"에서 "기업급 워크플로우"로 진입하고 있다는 점입니다.

이 글은 Sam Altman과 Matt Garman의 인터뷰를 기반으로 한 Stratechery의 기술 비즈니스 분석 매체로부터 번역되었으며, OpenAI와 AWS의 협업을 토대로한 Bedrock Managed Agents를 다뤘으며, 클라우드 컴퓨팅과 AI 플랫폼 이전의 유사성, 기업급 에이전트의 배포 어려움, AgentCore 및 관리형 서비스의 차이, 그리고 AWS의 AI 인프라 경쟁에서의 위치에 대해 논의했습니다.

참고: Stratechery는 테크 분석가 Ben Thompson이 설립한 매체로, 기술 기업의 전략, 플랫폼 경제, 클라우드 컴퓨팅, AI, 미디어 산업 변화에 주력하며, 심층 분석과 고위 경영진 인터뷰를 중심으로 하고 있습니다. 실리콘밸리 기술과 투자계에서 높은 영향력을 지니며, 대형 기술 기업의 전략적 동향을 관찰하는 중요한 창구로 간주됩니다.

Bedrock Managed Agents의 핵심은 AWS 고객이 OpenAI 모델을 사용하는 것뿐만 아니라, 모델을 AWS의 네이티브 ID, 권한, 로깅, 거버넌스, 배포 및 보안 시스템에 통합하는 것입니다. 다시 말해, 기업이 실제로 필요로 하는 것은 더 똑똑한 채팅 창이 아니라, 내부 조직에서 작동하며 데이터에 접근하고 작업을 수행하며 권한 경계를 준수하는 "가상 동료" 시스템입니다.

이번 협업에서 가장 주목할 만한 점은 AI 경쟁의 중심이 "가장 강력한 모델을 보유한 자"에서 "모델을 기업 인프라로 전환할 수 있는 자"로 이동하고 있다는 것입니다. 개인 개발자 환경에서 Codex는 많은 복잡한 문제를 로컬 환경에 의존하여 해결할 수 있지만 기업 환경에서는 에이전트(agent)가 데이터베이스, SaaS, 권한 시스템, 보안 경계 및 규정 준수에 직면해야 합니다.

어떤 의미에서는 이번 협업이 초기 클라우드 컴퓨팅의 논리를 재현하고 있습니다. AWS는 창업 기업의 시작 비용을 낮추어 소규모 팀이 자체 서버를 구축하지 않고도 인터넷 제품을 구축할 수 있게 했었고, 지금은 OpenAI와 AWS가 기업이 AI 에이전트를 배포하는 장벽을 낮추려고 하고 있습니다. 회사가 모델, 권한, 데이터 및 보안 구조를 직접 연결해야 하는 것 없이 AI를 실제 비즈니스 프로세스에 통합할 수 있도록 합니다. 다른 점은 이번에는 보다 신속하게, 기업의 요구가 더 시급하다는 것입니다.

따라서 본문이 다루고 있는 것은 OpenAI 모델이 AWS에 "상장(listing)"되는 것이 아니라, AI 인프라가 다음 단계로 진입하는 것입니다: 모델, 클라우드, 데이터 및 기업 권한 시스템이 심층적으로 통합되기 시작합니다. 미래의 경쟁은 API 가격, 칩 성능 또는 모델 순위뿐만 아니라 기업이 안심하고 사용하고 지속적으로 확장하며 실제 업무를 실행할 수 있는 AI 플랫폼을 구축할 수 있는 자가 되는 것일지도 모릅니다.

아래는 원문입니다:

Introduction

좋은 아침입니다. 어제 말씀드린 대로, 오늘의 Stratechery 인터뷰는 내 게시 일정상으로는 약간 앞당겨진 것이며(목요일에서 화요일로 변경), 실제 전달 시간으로는 약간 연기된 것이기도 합니다(동부 표준시 오전 6시에서 오후 1시로 미뤄진 것), 이는 해당 주제가 보도 금지로 제한되어 있기 때문입니다.

지난 몇 일 동안 이 보도 금지 때문에 약간 미묘한 입장에 있었습니다: 지난 금요일, 저는 OpenAI CEO Sam Altman과 AWS CEO Matt Garman을 인터뷰했는데, 주제는 OpenAI가 지원하는 Bedrock Managed Agents였습니다. 자연스럽게, 제가 한 질문은 다음과 같았습니다: 이 협업은 Azure가 OpenAI 모델 액세스를 독점적으로 확보한 Microsoft와 OpenAI 간의 그 협정과 어떻게 조화롭게 어울리는지요?

참고: Bedrock Managed Agents는 AWS가 출시한 관리형 AI 에이전트 서비스로, OpenAI가 모델 기능을 지원합니다. 이 서비스는 기업이 AWS에서 OpenAI 모델을 호출하는 것뿐만 아니라, 모델을 AWS의 기존 신원 확인, 권한 관리, 로그, 보안, 지시 및 배포 체계에 통합하여 기업이 클라우드 환경에서 실행 가능한 작업을 작성하고 내부 데이터에 액세스하며 권한 경계를 준수하는 AI 에이전트를 구축할 수 있게 합니다. 간단히 말해, AWS 기업 환경에서 실행되는 OpenAI 에이전트 인프라로 이해할 수 있습니다.

일요일 늦은 시간에, 저는 소문을 듣고 마이크로소프트가 월요일 아침에 어떤 일을 발표할 것이라고 생각했습니다. 그 당시 저는 예방적 소송일까라는 생각이 들었습니다!

월요일에, 마이크로소프트와 OpenAI는 계약을 수정했으며 이제 OpenAI가 다른 클라우드 서비스 제공업체에서 제품을 제공할 수 있도록 허용한다는 것을 발표했습니다. AWS 역시 포함됩니다.

그래서 현재 이 인터뷰가 이루어졌습니다.

나는 마이크로소프트와 OpenAI의 이러한 새로운 계약이 양쪽 모두에게 합리적이라고 생각합니다. 다음은 마이크로소프트의 공식 기사에 나열된 새 계약 핵심 내용입니다:

· 마이크로소프트는 여전히 OpenAI의 주요 클라우드 파트너입니다. OpenAI 제품은 주로 Azure에서 출시될 것이며, 마이크로소프트가 지원할 수 없거나 필요한 능력을 선택하지 않는 한. OpenAI는 이제 모든 클라우드 제공업체를 통해 모든 제품을 고객에게 제공할 수 있습니다.

· 마이크로소프트는 2032년까지 OpenAI 모델 및 제품과 관련된 지적 재산권 라이선스를 계속 받을 것입니다. 그러나 마이크로소프트의 라이선스는 더 이상 배타적이 아니게 됩니다.

· 마이크로소프트는 더 이상 OpenAI에게 수익 배분을 지불하지 않을 것입니다.

· OpenAI가 마이크로소프트에게 지불하는 수익 배분은 기술 발전에 영향을 받지 않고 2030년까지 계속될 것이며, 비율은 유지되지만 총액 상한이 설정됩니다.

· 주요 주주로서 마이크로소프트는 OpenAI의 성장에 직접 참여할 것입니다.

나는 가장 중요한 것은 마지막 항목이라고 생각합니다. 이전에 Azure는 OpenAI 모델을 제공할 수 있는 유일한 대형 클라우드 공급업체이기 때문에 실제로 진정한 경쟁 우위를 가지고 있었습니다. 그러나 이러한 독점성은 OpenAI를 제한했고, 특히 더 많은 기업들이 현재 사용 중인 클라우드 플랫폼에서 모델에 액세스할 수 있는지가 점점 더 중요해지면서 이 점이 더 명확해졌습니다. 전에도 여러 차례 언급했듯이, 이것이 Anthropic의 중요한 경쟁 우위라고 생각합니다. 다시 말해, Azure의 독점적인 권리는 사실상 마이크로소프트의 OpenAI 투자에 손해를 입히고 있습니다. 올해 Anthropic의 빠른 성장을 감안할 때, 마이크로소프트는 이 투자에 신경을 써야 하고, 그것이 Azure의 차별화 우위가 약화될지라도 하더라도.

한편 OpenAI는 분명히 AWS를 거대한 기회로 보고 있으며, 몇 년 내내 Azure와 관련된 일부 수익을 포기하기를 원합니다. 이 조합은 Azure 경영진이 독점적 권한을 잃을 때 받아들이기 쉬울 것입니다. 앞서 언급한 바와 같이 OpenAI는 마이크로소프트를 AGI 조항에서 해방시킬 것입니다. 지금은 무엇이 있든, 두 회사 간의 협정은 2032년까지 계속될 것입니다.

지금으로서는 OpenAI의 다음 주요 포커스가 AWS에 맞춰질 것으로 보입니다. 이에 가장 강력한 증거는 이번 인터뷰의 주제인 OpenAI가 지원하는 Bedrock Managed Agents입니다. 이 제품을 이해하는 가장 간단한 방법은 이를 AWS의 Codex로 생각하는 것입니다. Codex가 잘 작동하는 것은 많은 부분이 로컬화되어 있기 때문인데, 이는 많은 복잡한 문제, 특히 보안 문제를 자연스럽게 해결할 수 있게 합니다. 그러나 조직 내에서 에이전트들이 부서 및 시스템을 가로지르며 작동하도록 하려면 완전히 다른 문제입니다. 이 제품의 목표는 대부분의 데이터가 이미 AWS에 저장된 조직이 이러한 유형의 워크플로우를 보다 쉽게 사용할 수 있도록하는 것입니다.

이와 관련하여, 이번 인터뷰에서는 AWS가 클라우드 컴퓨팅 범주 전체를 개척하는 방식 및 이러한 접근이 스타트업에 미치는 영향에 대해 논의했습니다. 또한 인공 지능과 그 패러다임 변화 간에 어떤 유사점과 차이점이 있는지에 대해 논의했습니다. 그 후 Bedrock Managed Agents에 대해 이야기했는데, 이것이 무엇이며 Amazon의 기존 AgentCore 제품과 어떤 차이가 있는지 살펴보았습니다. Trainium에 대해 이야기하고, 왜 대부분의 인공 지능 사용자에게 칩이 그렇게 중요하지 않은지, Google이 풀스택 통합을 강조하는 데 비해 협력이 합리적인 선택인 이유에 대해 논의했습니다.

이를 기억하십시오. Stratechery의 모든 콘텐츠, 인터뷰를 포함하여 팟 캐스트로 청취할 수 있습니다. 이메일 상단의 링크를 클릭하여 Stratechery를 팟 캐스트 플레이어에 추가할 수 있습니다.

인터뷰로 이동합니다.

인터뷰 내용

인터뷰는 약간의 편집을 거쳐 명확성을 높였습니다.

OpenAI가 AWS에 진출하며 Azure 독점 시대 종료

Ben Thompson (주최자): Matt Garman, Sam Altman—Matt, Stratechery에 오신 것을 환영합니다; Sam, 다시 오신 걸 환영합니다. 먼저 2025년 10월, 2025년 3월 및 2023년 2월에 Altman을 인터뷰한 적이 있습니다.

Sam Altman (OpenAI CEO): 감사합니다.

Matt Garman (AWS CEO): 감사합니다, 초대해 주셔서 감사합니다.

진행자: Matt씨, 이번이 Stratechery에 오신 처음이군요. 안타깝게도 Sam이 온다면 우리가 소개팅 세그먼트를 진행하기 어려워지겠군요. 게다가, 그를 위한 켈로그 경영대학교의 날들을 회상하는 것을 듣고 싶지 않을 거에요. 하지만, 팟캐스트에서 동문을 초청할 수 있어서 기쁩니다.

Matt Garman: 네, 여기 올 수 있어 기쁩니다. 다음에 다시 오면 깊이 있는 대화를 나눌 수 있겠죠.

진행자: 그것은 정말 좋은 소식이에요. 여러분은 신입사원 시절부터 AWS에 참여해오셨고, 지금은 AI 파동 가운데 전체 AWS 조직을 이끌고 계십니다. AI 비즈니스를 구축하는 것과 예전의 처음부터 일반 컴퓨팅 비즈니스를 구축하는 것을 비교했을 때, (일단은) 둘 사이에 어떤 유사점이 있다고 생각하시나요? 또한, 진짜로 다른 부분은 무엇인가요?

Matt Garman: 유사한 부분은, 동일한 흥분을 보았다는 점과, 밖에 있는 빌더들이 이전에는 할 수 없었던 일을 시작하고 있다는 것을 보았다는 점입니다. 우리가 AWS를 시작했을 때, 멋진 점 중 하나는 개발자가 갑자기 이전에는 대규모 기업만 사용할 수 있었던 기반 시설을 얻을 수 있다는 것이었습니다. 예전에는 수백만 달러를 투자하여 데이터 센터를 구축하는 기업들만이 이러한 능력을 갖췄습니다. 그러나 지금은 개발자가 신용카드 하나와 몇 달러만 있으면 애플리케이션을 시작할 수 있습니다. 이로써 웹 개발자들이 할 수 있는 일이 크게 확장되었습니다.

우리의 생각은, 사람들이 원하는 것을 구축할 수 있다는 것이었습니다. 우리는 그들이 뭘 해야 하는지 미리 설정하지 않았습니다. 우리는 세계 각지의 창의력이 존재한다고 믿었습니다. 그들 앞에 강력한 도구들을 제공하기만 한다면, 그들은 흥미로우면서도 놀라운 것들을 만들 것이었습니다.

나는 AI가 빌더들에 대한 능력을 제공하는 면에서, 적어도 마찬가지로 혁명적이라고 생각하며, 심지어 더 강할 수도 있다고 믿습니다. 이제 어떤 것이 가능해졌는지 생각해보세요: 프로그래밍을 10년 배워야만 응용프로그램을 구축할 수 있던 시대가 지났습니다. 수백 명의 대규모 팀을 소유할 필요가 없으며, 몇 달, 몇 달을 또 몇 달을 쓰면서 무언가를 만들어내야 했던 것도 아닙니다. 소규모 팀으로 빠르게 구축하고 반복할 수 있습니다. AI는 세계 각 분야에서 혁신을 이루고 있습니다. 여러 측면에서, 이는 예전과 매우 흡사합니다. 고객들에게 제공하는 능력을 보는 것은 정말로 매우 흥분스럽습니다.

진행자: 그러나, AWS가 나타난 때는 여러분이 유일한 플레이어였기 때문에, 어떤 면에서든 좋은 것이든 나쁜 것이든 어느 정도로라도 자연스럽게 여러분에게로 걸려왔을 겁니다. 이렇게 생각한 적이 있나요? AWS 시대에는 많은 것이 일반 컴퓨팅에 관한 것이었고 - 계산을 대체 가능하게, 유연하게, 저렴하게 만드는 것; 그러나 AI 분야에서는, 특히 훈련 과정에서, 승리한 추상화 방식은 높은 수직 통합된 슈퍼 클러스터, 매우 진보된 네트워크, 그리고 소프트웨어와 하드웨어 사이의 매우 밀접한 상호작용과 같이 보입니다. 여러분에게는, 이게 뜻밖인 일이었나요? 왜냐하면 이번에는 여러분이 처음부터 시작한 것이 아니며, 또 "우리만 여기 있는 사람들"은 아니기 때문에; 과거에 대규모 계산에 대해 특정 이해를 가졌지만, 적어도 AI의 초기 몇 년 동안 이러한 이해가 완전히 부합되는 것 같지 않기 때문에요.

Matt Garman: 저는 이게 우리에게 어떤 차이를 만들었는지 잘 모르겠습니다. 제 생각에 정말 다른 부분은 놀랍도록 빠른 속도 채택입니다. 이것이 모든 사람을 놀라게 할 수 있다고 생각합니다. Sam, 달리 생각하시면 추가해 주세요. 하지만 사람들은 이러한 능력의 속도를 받아들이고, 이러한 능력을 활용하는 속도를 받아들이는 것이 모두의 기대를 뛰어넘었다고 생각합니다.

이 점이 우리가 클라우드 컴퓨팅을 시작할 때와 매우 다릅니다. 그 때는 책을 파는 회사가 왜 컴퓨팅 파워를 제공하게 되었는지를 설명하는 데 많은 시간을 보냈습니다. 우리는 클라우드 컴퓨팅이 무엇인지 설명하는 데 많은 노력을 기울여야 했습니다. 사람들이 지금은 자주 그것을 잊어버리곤 하지만, 2006년에는 세상의 컴퓨팅이 클라우드로 옮겨갈 것이라고 당연시 여기는 사람이 없었습니다. 그 때에는 많은 설명과 추진 작업이 정말 많이 필요했습니다.

주최자: 그렇다면 지금도 설명을 해야 할 필요가 있다고 보십니까? 많은 사람들이 처음엔 학습 시대에 주안점을 두지만, 여러분은 "우리는 추론 시대를 고민하고 있다"라고 말씀하시죠. 또 다른 것입니다. 당신들은 그 설명 능력을 다시 활용해야 할 필요가 없나요?

Matt Garman: 그렇게 필요하지만, 사람들이 당신이 말하는 내용을 이해하는 속도는 전혀 다르다고 생각합니다. 그래서 그렇습니다. 사람들이 "이거 멋져 보이는데, 나랑 인공지능 챗봇과 대화할 수 있겠구나"에서 "이것이 실제로 회사에서 일을 처리할 수 있다"로 이동시키려면 교육 과정이 필요합니다. 하지만 기술 진화 속도로 보면, 이러한 과정은 이미 상당히 빨리 진행되고 있다고 생각합니다.

주최자: 약속드립니다. 곧 오늘의 제품 주제로 넘어가겠습니다. 하지만 Sam, 스타트업 생태계의 관점에서 돌아보면, 분명히 AWS는 혁신적이었고, 스타트업의 진입 장벽을 근본적으로 바꿨습니다. 지금은 누구나 창업을 시작할 수 있습니다. 시드 라운드, 엔젤 투자자가 등장하면서 자금 조달 장벽이 뒤로 밀려났습니다. "서버 사야겠다"는 내용을 PPT에 써놓을 필요가 없죠. 먼저 애플리케이션을 만든 후 A 라운드나 다른 라운드를 조직할 수 있습니다.

그러면 여러분이 보기에, AWS가 열었던 세계와 오늘의 AI가 열고 있는 세계를 비교했을 때, 어떤 차이가 있고, 어떤 유사성이 있을까요?

Sam Altman: 역사적으로 창업 회사에 대한 대규모 플랫폼 기회를 부여한 네 번의 중대한 시점이 있었습니다: 인터넷, 클라우드, 모바일, 그리고 AI. 이 네 시점 가운데 첫 번째는 클라우드를 경험한 적이 있습니다. YC 초기에 이 일이 얼마나 많은 창업 기업에게 영향을 미쳤는지를 과장하기 어려웠습니다.

이전에는 창업 기업이 호스팅 공간을 빌려서 서버를 직접 조립하고 장비를 설치해야 했습니다. 이는 매우 복잡한 과정이었으며, 많은 자금을 먼저 조달해야 했습니다. 그런 다음 갑자기 클라우드가 나타났습니다. 클라우드는 YC 설립 후에 등장했지만, 아마도 그 다음 해여야 했을 겁니다.

주최자: 나는 방금 이 질문을 하고 싶었는데—— 궁극적으로, YC와 클라우드는 당신들이 당시에 이해한 것보다 더 밀접하게 결합된 것이 아닌가요?

Sam Altman: 우리는 당시에 이미 그들이 긴밀하게 결합되어 있는 것을 느꼈습니다. YC는 처음부터 클라우드의 파도를 타고 나아갔다고 느꼈는데, AWS 이전에도 일부 초기 클라우드 서비스 예가 있었기 때문입니다.

주최자: AWS가 존재한다면, 창업 기업을 시작하는 데 필요한 자금이 이전보다 훨씬 적은 것은 사실인가요.

Sam Altman: 이것은 거대한 권한 부여 변화였으며, 당시에 YC가 그만큼 열정적으로 들린 이유이기도 합니다. 사람들은 "일부 창업 기업을 수만 달러로 투자할 수는 없다. 이건 불가능하다. 단순히 서버 비용만 그 수를 초과한다." 라고 말할 것입니다. 그래서 이것이 창업 기업이 적은 자본으로 성취할 수 있는 것을 근본적으로 변화시켰습니다.

일반적으로 대규모 플랫폼 이전이 발생하고 이전보다 빠르고 적은 자본으로 일할 수 있는 경우, 창업 기업이 승리합니다. 이것은 대기업을 이기는 창업 기업의 클래식한 방식입니다. 내 경력 초기에 클라우드가 가져온 이러한 변화를 직접 목도했습니다. 지금은 기업이 AI를 기반으로 제품을 구축하는 것을 보며, 방향적으로 실제로 매우 유사하게 느껴집니다. 그러나 Matt가 말한 것처럼, 이번에 속도는 정말 미친 것처럼 빠릅니다.

주최자: 다음과 같은 상황이 있지 않을까요: 기존 대기업, 이러한 산업 거물들이 클라우드 컴퓨팅 채택 속도가 예전보다 훨씬 빠를까요?

Sam Altman: 물론 그런 상황이 훨씬 더 많아졌습니다. 그러나 나는 이전에는 없던 창업 기업의 수익 성장 속도도 포함하고 있습니다. 최근 YC 강의에서, 마지막으로 "지금 YC를 마치는 좋은 회사에 대한 모두의 소득 예상은 무엇입니까?" 라고 물어봤습니다. 그들은 말했습니다, "이 답변은 매달 바뀝니다. 동일한 YC 배치에서, 시작할 때와 끝날 때, 답이 모두 다를 수 있습니다." 이전에는 이런 일이 일어나지 않았습니다. 사람들이이 새로운 플랫폼을 기반으로 규모 경제 비즈니스를 구축하는 속도는 제가 과거에 본 적이 없는 것입니다.

주최자: Matt, 전체 클라우드 시대 동안, AWS는 사실 모든 창업 기업의 기본 클라우드 서비스이었는데, 이것은 당신들에게 엄청난 이점을 안겨줬습니다. 그렇다면 오늘날, 여전히 창업 기업의 기본 클라우드로 남아 있는 이유가 무엇입니까? 많은 사람들이 지금 OpenAI API에서 제품을 개발하고 있기 때문에; 아니면 실제로 "우리는 매우 다른 관점에서이 시장에 진입했습니다. 우리는 방대한 기존 고객 기반이 있으며, 그들은 우리가 AI 능력을 제공하도록 요청하지만 Sam이 말한 전체 창업 기업 집단에 대한 우리의 가시성은 그리 높지 않다" 라고 느껴지나요?

Matt Garman: 저는 이 점에 대해 몇 가지 측면이 있다고 생각합니다. 첫째, 저희는 이번 협업에 대해 매우 흥분하고 있으며, 많은 스타트업들에게 매우 중요한 의미를 갖게 될 것으로 생각합니다. 그러나 실제로 오늘날에도 확장 중인 대부분의 스타트업들은 여전히 AWS에서 확장하고 있다고 가정할 때, 그 배후에는 많은 이유들이 있습니다. 규모, 가용성, 보안, 신뢰성, 다른 ISV 파트너 생태계는 모두 AWS 상에 있으며, 고객들 또한 AWS 상에 있습니다.

주최자: (웃음) 모두 AWS 콘솔을 사용해봤으니, 그들 또한 익숙해졌다고 볼 수 있겠죠.

Matt Garman: 그리고 우리는 그들을 돕겠습니다. 저희는 스타트업들을 지원하기 위한 많은 시간을 투자했습니다. Credits를 제공하는 것 뿐만 아니라, 그들에게 시스템 설계 방법, go-to-market 전략 구상 방법 등을 조언해 주는 것도 포함됩니다. 많은 스타트업들이 이를 매우 인정하고 있다고 생각합니다. 이를 보장하기 위해 많은 시간과 에너지를 투자했으며, 실제로 스타트업들이 AWS의 생명선이라고 생각합니다. 처음부터 그랬으며, 방금 Sam이 말한 대로 오늘날에도 그런 상황입니다. 저는 지금도 매 분기마다 실리콘 밸리나 다른 곳으로 가서 직접 스타트업과 만나며, 그들이 무엇을 하고 있는지 듣고, 저희가 구축 중인 것이 실제로 그들의 요구를 충족시킬 수 있는지 확인하고 있습니다.

따라서, 오늘날은 스타트업들의 주목을 사로잡는 경쟁이 20년 전보다 훨씬 치열합니다. 그러나 우리에게는 이것이 여전히 과거와 같이 중요합니다. 우리는 스타트업들의 요구를 충족시킬 수 있도록 많은 시간을 투자합니다.

주최자: 맞을까요? OpenAI API를 직접 기반으로 제품을 구축하는 사람들, Azure 버전 OpenAI 서비스를 사용하는 대신 상용하는 사람들보다는 이러한 기술 스택을 채택할 가능성이 더 높은가요? 보통의 계산은 AWS에서, AI 부분은 OpenAI에서?

Matt Garman: 저는 이것이 오늘날 많은 스타트업들 사이에서 매우 흔한 패턴이라고 생각합니다, 완전히 맞습니다.

Bedrock Managed Agents: 기업 업무 흐름으로 AI 에이전트 통합

주최자: 그렇다면 우리는 금일의 발표로 이동했습니다: OpenAI가 지원하는 Bedrock Managed Agents. 제가 잘못 말한 게 아니라고 생각합니다. 제가 이해한 바로는, 이 제품의 매력점은 단순히 OpenAI 모델을 AWS에서 사용할 수 있게 된다는 것만이 아니라—아마 그것은 아직 허용되지 않았을 것이라고 생각합니다—OpenAI의 최신 모델이 AWS 원보의 에이전트 런타임으로 포장되었으며, 그 안에는 정체성, 권한 상태, 로그, 거버넌스, 배포가 포함되어 있습니다. Sam, 이 설명이 정확한가요?

Sam Altman: 네, 매우 잘 요약했습니다.

주최자: 감사합니다. 그렇다면 이게 정확히 무엇인가요? 이제 초등학생도 이해할 수 있게 설명해 주십시오.

Sam Altman: 저는 AI의 다음 단계가 "당신이 에이전트에게 어떤 텍스트를 주고, 그럼에도 불구하고 더 많은 텍스트를 받는" 단계에서 심지어 "당신이 그에게 많은 코드를 제공하고, 그에게 더 많은 코드를 반환하는" 단계로 나아가서, 이러한 에이전트들이 회사 내에서 다양한 유형의 작업을 수행하게 될 것이라고 생각합니다.

"가상 동료"는 들은 설명 중에서 가장 나쁘지 않은 표현 중 하나입니다만, 아직 정확한 용어를 찾은 사람은 없습니다. 우리는 실제로 이러한 상태를 가진 에이전트들을 구축하고 그것들을 사용할 수 있도록 도와주는 새로운 제품을 공동으로 개발 중입니다. 다시 한 번 강조하면, 저는 우리가 아직 이러한 에이전트들을 어떻게 이야기해야 하고, 그들을 어떻게 사용해야 하는지에 대해 최종적으로 알지 못한다고 생각합니다. 그러나 Codex가 무슨 일이 일어나고 있는지 살펴보면, 그것이 이 모든 것이 어디로 향하고 있는지를 볼 수 있다고 생각합니다.

주최자: AI 에이전트가 실제로 작동하려면 모델만으로 충분하지 않습니다. 그것은 실행 환경, 호출 가능한 도구, 작업 상태, 기억, 권한 관리 및 효과 평가와 같은 완전한 부가 시스템 세트가 필요합니다. 당신은 방금 "상태"란 단어를 특별히 언급했습니다. 이러한 모델 이외의 기반 시설이 에이전트가 실제로 작동하는 데 얼마나 중요한지에 대해 얼마나 큰 역할을 하는지 궁금합니다.

Sam Altman: 그것의 중요성을 강조하는 것이 얼마나 중요한지 설명할 수 없습니다. 나는 이제 Harness와 모델을 완전히 분리된 것으로 보지 않습니다. 내가 Codex에서 작업을 시작하면서 놀라운 일을 해주었을 때, 느낀 점은 이렇습니다. 나는 항상 이 일에서 얼마나 많은 영광을 받아야 하는지 잘 알지 못하는 것이었습니다...

주최자: 모델이 강력한 것인가, 아니면 Harness가 강력한 것인가요?

Sam Altman: 네, 정확히 그렇습니다.

주최자: 그렇다면 Harness는 모델과 얼마나 함께 개발되었습니까? 이 통합은 어디에서 발생합니까? 훈련 이후인가요? 프롬프트인가요? 이 통합이 작동하는 데 어떤 요소가 있습니까?

Sam Altman： 그것은 두 가지 다 모두에 해당합니다. 사실 그것은 사전 훈련 과정의 일부가 아닙니다. 그러나 여기에 더 흥미로운 현상이 있는데, 우리는 과거에 여러 차례 보았습니다. 일부 우리가 원래 아주 분리되어 있다고 생각했던 것들이 시스템에 더 깊게 융합되고 있는 현상이 있습니다.

예를 들어, 우리가 처음에 도구 호출 방식을 이해하는 방식. 지금 그것은 우리가 이 모델을 사용하는 핵심 부분이 되었지만 초기에는 그것을 훈련 과정에 심층적으로 통합해야 한다고 생각하지 않았습니다. 시간이 지남에 따라, 우리는 이런 측면에서 더 많이 해오고 있습니다.

또한, 나는 모델과 헤네스(Harness) 시스템이 시간이 지남에 따라 점점 융합될 것이라고 의심합니다. 게다가, 나는 사전 훈련과 사후 훈련도 시간이 지남에 따라 결국 더 많이 융합될 것이라고 예상합니다. 이 문장은 상투적인 속담처럼 들리지만, 나는 그렇게 말해야 할 것이며, 왜냐하면 이 산업이 아직 매우 초기 단계에 있다고 생각하기 때문입니다. 이 산업이 정말로 성숙해질 때까지는 대략 Homebrew Computer Club 시대 수준과 비슷할 것으로 예상됩니다.

주최자: 그것이 왜 나는 이 문제가 매우 흥미로운 것으로 생각하는지 한 이유이기도 합니다. 몇 주 전에 그것에 대해 쓴 적이 있습니다. 어떤 가치사슬에서도 결국 통합 지점이 나타날 것이며, 그 지점은 매우 중요합니다. 왜냐하면 두 부분이 결합되어야 일이 움직이기 때문입니다. 시간이 지남에 따라 많은 가치가 그 곳에 축적될 것으로 보입니다. 내 판단은, 헤네스(Harness) 시스템과 모델의 통합이 이 핵심 지점이라는 것이었습니다. 이것은 분명히 당신의 이해와 일치하지만, 듣기로는 당신도 그 평가에 동의하는 것으로 들립니다.

Sam Altman: 이것은 실제로 제 이해와 일치하며, 저도 동의합니다. 그러나 더 넓게 말할 것입니다: Codex에 원하는 일을 입력하고, 그런 일이 실제로 일어난다는 것이 정말 중요합니다.

주최자: 구현 세부사항에 대해서는 신경 쓰지 않는다는 것이죠.

Sam Altman: 우리는 이러한 것들을 탐색하면서, 이미 이와 같은 많은 예가 있습니다: 어떤 것들은 초기에 시스템 프롬프트 수준에서 해결해야 했던 것들이 후에 필요하지 않아졌습니다. 여기서의 전반적인 관찰은, 모델이 더 똑똑해짐에 따라, 그들을 당신이 원하는 방식으로 작동시키는 데보다 큰 유연성이 생긴다는 것입니다. 이것은 분명히 들리는 상투적인 말처럼 들립니다. 그렇지만 사실은...

주최자: 10세 어린이에게 일을 시키는 것은 5세 어린이에게 일을 시키는 것보다 쉽습니다.

Sam Altman: GPT-3 시대를 되돌아보면, 이러한 모델들에서 유용성을 좀 끌어내기 위해 우리가 해야 했던 것을 생각해보면, 지금은 그렇게 할 필요가 전혀 없습니다. 모델이 이미 이해하고 있고 상자에서 꺼내서 사용하기만 하면 일이 잘 됩니다. 이러한 추세는 더욱 발전해 갈 수도 있습니다.

Matt Garman: 추가하고 싶은 점이 있습니다. Sam의 말에 완전히 동의합니다. 그리고 고객과 소통할 때, 그들이 이러한 시스템이 정확히 무엇을 하길 원하는지에 대해 실제로 잘 알고 있습니다. 이번 공동 협업 이전에, 고객들은 어느 정도 이러한 것들을 직접 조합해야 하는 상황이었습니다. 그들은 이러한 모델과 에이전트가 어떤 것을 기억하고, 잘 협력하며, 그들의 기존 시스템에 통합되길 원했습니다. 이는 타사 도구뿐만 아니라 그들 자신의 도구에도 해당됩니다. 그들은 이러한 에이전트들이 자신들의 데이터, 응용프로그램 및 운영 환경을 이해하길 원했습니다. 그리고 오늘날, 적어도 현재로서는, 이러한 모든 통합 작업은 각 고객이 직접 수행해야 합니다.

그래서 이번 공동 협업의 한 부분은 함께 새로운 유형의 제품을 개발하는 것이며, 이러한 요소들을 더 밀접하게 통합하여 고객이 하고 싶은 일을 더 쉽게 수행할 수 있도록 하는 것입니다. 예를 들어, 신원 기능이 제품에 내장되어 있습니다. 데이터베이스에 연결하고 인증을 완료하는 능력도 AWS VPC인 가상 사설 클라우드 내에서 수행됩니다. OpenAI API가 한쪽에 있고 AWS가 다른쪽에 있다면理례론적으로 이러한 일들을 수행할 수도 있습니다. 그러나 이러한 요소들을 함께 구축함으로써, 우리는 고객이 가치를 빨리 실현하고 자신의 기업 환경에서 하고 싶은 일을 수행할 수 있도록 돕습니다.

진행자: 그러니까, 하나의 일반적인 하네스 시스템 안에 실행 가능한 에이전트를 구축할 수는 있지만, 훨씬 어렵다는 걸 말씀하시는 건가요? 단지 쉽게 만드는 중이십니까? 아니면, 이러한 요소들이 분리되어 있으면 특정 일부 작업을 실제로 할 수 없는 경우도 있는 건가요?

Sam Altman: 당신이 한 비유로 다시 돌아가자면, AWS가 등장하기 전에, 기계실 안에 서 있고 서버 한 무리를 사고, 어떻게 연결할지 알아내고, 자체의 네트워크 엔지니어를 고용한다면, 실제로 많은 일을 할 수 있습니다. 많은 일을 일어나게 할 수 있습니다. 그런 다음 갑자기, AWS 콘솔에 로그인해서 "또 다른 S3 인스턴스가 필요합니다" 같은 것을 클릭한다면, 더 많은 일을 할 수 있습니다. 왜냐하면, 기본 작업에 필요한 초기 에너지와 작업량이 크게 줄었기 때문입니다.

오늘날, 모델을 사용하여 많은 일을 할 수 있습니다. 그러나 누군가가 우리의 모델을 사용하거나 Matt가 막 언급한 워크플로우를 구축하려고 할 때마다, 나는 매우 궁금해집니다. 한편으로는, 그들이 이러한 모델이 정말 인상적이라고 생각하고 이 기술이 마치 마법처럼 보인다고 생각하는 것을 기뻐합니다. 다른 한편으로는, 무엇이든 제대로 작동하도록 하기 위해 너무 많은 고통과 괴로움을 겪는 것에 대해 혼란스러워합니다.

이것은 이러한 제품을 구축하는 개발자에게만 해당하는 것이 아닙니다. ChatGPT를 사용하기만 해도 사람들이 여기저기에서 복사하여 붙여넣기를 시도하면서 복잡한 프롬프트 세트를 구성하려고 한다는 것을 보았는데, 이러한 것들이 모두 사라질 것을 알고 있기에 더욱 흥분되었습니다. 현재 모든 것은 아직 너무 초기이며 너무 나쁩니다.

주최자: BBEdit와의 통합만 취소하지 않는다면 상관 없어요. 그것은 ChatGPT 앱에서 가장 좋아하는 기능 중 하나에요.

참고: BBEdit은 macOS에서 오랜 역사를 가진 텍스트 및 코드 편집기입니다. 여기서 주최자는 앞으로 AI 에이전트가 복사 붙여넣기 및 수동 조작을 줄여주겠지만 여전히 ChatGPT가 로컬 편집기와 상호 작용하는 기능을 유지해줬으면 하는 바램을 반 취사조로 표현한 것입니다.

Sam Altman: 알겠습니다.

주최자: (웃음) 감사합니다.

Sam Altman: 우선, 현재 이러한 것들을 만드는 일이 정말 어렵습니다. 우리는 이를 훨씬 쉽게 만들 수 있다면, 개발자들과 기업에 더 많은 가치를 제공할 수 있을 것이라고 생각합니다. 둘째, 많은 것들이 현재 신뢰할 수 없이 작동합니다. 저희가 이번 협업을 통해 새로운 것들을 함께 발견하고 나아가 사람들이 지난번보다 더 많은 괴로움과 고통을 겪지 않고도 만들어낼 수 있는 제품과 서비스를 구축할 수 있기를 기대합니다.

기업 Agent가 진정 어려운 부분은 권한, 데이터 및 보안

주최자: 나중에 "무엇을 구축할 수 있을까" 이 부분으로 다시 돌아가고 싶습니다. 그러나 먼저 빠르게 Codex로 돌아가 보죠. Codex는 하네스 시스템과 모델이 결합된 것으로, 로컬에서 실행됩니다. 현재 왜 에이전트를 로컬에서 작동시키는 것이 더 쉬울까요?

Sam Altman: 실제로 처음에는 클라우드에서 실행하도록 만들었습니다. 결국 당신이 원하는 것은 클라우드에서 실행되는 것입니다.

주최자: 물론입니다. 저는 클라우드 제품으로의 전환 과정을 따라가고 있는 것에 대해 묻는 것이었습니다. 그러나 왜 다시 로컬로 돌아왔나요?

Sam Altman: 왜냐하면 모든 환경이 거기에 있기 때문입니다. 당신의 컴퓨터가 이미 설정되어 있고 데이터도 거기에 있으며, 고려할 일이 없습니다. 최종 상태는 아니지만 시작하기가 더 쉽습니다.

그러나 agent 가 실제로 클라우드에서 실행되는 세계로 진입하는 것은 분명히 좋을 것입니다. 매우 고강도의 작업이 필요하거나 컴퓨터를 종료해야 하는 경우 또는 다른 상황이 있을 때 작업을 클라우드에 맡길 수 있습니다. 이러한 방향은 분명히 훌륭할 것입니다. 그러나 단기적으로 우리가 제공할 수 있는 사용 편의성은 사용자의 로컬 환경을 사용하는 것이 명백히 우위에 있습니다.

호스트: 내가 이해하는 한, 과거의 보안 모델은 더 이상 "성채와 요새" 모델이었고, 지금은 새로운 제로 신뢰 보안 모델로 전환하고 있습니다. 모든 것에는 적절한 권한 구조, 인증 메커니즘 및 모든 이러한 세부 사항이 있어야 하며, 모든 것이 그렇다고 보는 새로운 모델로 나아가고 있습니다. 내가 보기에 로컬 실행은 어느 정도 스스로 "성채와 요새"를 가하고 있는 것 같습니다. 모든 것이 로컬에 있으므로 제가 그것들에 문제가 없다고 가정하고 다루기 쉽습니다.

내가 이 제품을 이해하는 한 하나의 방식은, 모든 이러한 부분이 실제 생산 환경에서 작동하도록 하려면, 모든 것을 로컬에 두지 않을 수밖에 없다는 것입니다. 처음부터 이 환경에서 실행해야 합니다. Matt, 이 말이 옳은지요?

Matt Garman: 저는 어떤 컴퓨팅 환경도 정말로 클라이언트를 완전히 배제한다고 생각하지 않습니다. 로컬 실행은 분명히 장점이 있습니다. 여러분이 가지고 있는 iPhone 앱의 대부분이 로컬 구성 요소를 가지고 있는 이유가 있습니다. 연결성, 지연 시간, 로컬 계산, 파일 및 앱 접근 등에 대한 이유 때문입니다.

로컬 클라이언트에는 고유한 특징이 있습니다. Sam이 말한 것처럼 간단하고 잘 실행되지만 제한적이며 경계가 있습니다. 로컬 노트북을 확장할 수 없으며, 가지고 있는 것이 전부입니다. 두 명 간의 공유와 같은 기업 환경에 진입하면 상황이 더 어려워집니다. 권한, 보안 경계를 고려해야 하며, 더 어려워집니다.

따라서 이에는 많은 부분이 있습니다. 로컬 환경이 나쁜 것은 아니라고 말할 수 있습니다. 그것은 단지 다른 것일 뿐입니다. 내가 생각하기에, 최종적으로 여러분은 로컬과 클라우드 간에 다리를 놓고 싶어할 것입니다.

호스트: 이것이 내 질문을 향하는 곳입니다. 클라우드 시대에는 컨테이너가 있으며, 로컬 환경과 생산 환경을 가깝게 만들어주는 데 도움이 됩니다. 그러나 agents 시나리오에서는, 단순히 방금 말한 대로 agents를 처리해야 한다면, 그것은 가상 동료처럼이거나 비슷한 것처럼 보입니다. 그들이 자체 ID, 자체 권한 및 모든 이러한 것을 가지고 있으면, 심지어 그들을 구축하는 것만으로도, 최종적으로 그들을 배포할 올바른 환경에 있어야 합니다. 제 생각에는 이렇게 보입니다.

Sam Altman: 이 게 탐구해야 할 많은 것이 있다고 생각합니다. 예를 들어, 당신이 회사의 직원이라면, 특정 서비스를 사용할 때, 하나의 계정만 가져야 할 지, 그리고 여러분의 agent도 여러분의 계정을 사용해야 하는지, 아니면 여러분의 agent가 다른 계정을 사용해야 하고, 그러면 서버가 누구인지를 판단할 수 있어야 합니까?

진행자: 혹시, 에이전트를 많이 두고 싶다면 어떨까요?

Sam Altman: 맞아요. 제 생각에 우리가 정말 필요로 하는 것은, 아직까지는 명확히 생각하지 못한 어떤 것인가입니다. 아마도 Ben의 에이전트가 Ben의 ID로 로그인할 때, 그것은 Ben의 계정을 사용하지만 자신을 진짠지 Ben이 아닌 에이전트인 것으로 표시할 것입니다. 실제로 이것에 대해 생각할 수 있는 기본 개념조차 갖지 못한 것 같습니다. 하지만 우리는 아마도 곧 해내야 할지도 모릅니다.

제 느낌으로는, 50가지 비슷한 일이 더 있을 것입니다. 에이전트들이 노동력에 합류하면서 더 많은 자율성과 임무 복잡성으로 움직이게 됨에 따라, 소프트웨어가 어떻게 작동하며, 기업 내부 및 인터넷 전반의 액세스 제어 및 권한이 어떻게 작동하는지에 대한 많은 기존의 인식 모델들이 진화해야 할 것입니다.

진행자: Matt, 당신은 에이전트의 보안, 액세스 정책 및 관련 문제에 대해 어떻게 생각하십니까?

Matt Garman: 네, 저는 확실히, 이러한 작업 부하를 클라우드로 이동할 때, 중앙집중식 조직으로서 보안 컨트롤을 더 많이 가할 수 있다고 생각합니다. 우리는 항상 고객들과 대화를 나누고 있는데, 이겪은 그들이 우려하는 내용입니다. 그들은 말할 것입니다: "이러한 강력한 모델 및 에이전트가 제공하는 전망을 정말 좋아하지만, 어떻게 하면 회사를 끝내는 데 충분한 사건을 유발하지 않고서만 싶다구요?"

이러한 우려가 현실적으로 존재합니다.

저는 저희가 이 문제에 대해 도움을 줄 수 있다고 생각합니다, 왜냐하면 이러한 문제는 해결할 수 있기 때문입니다. 그렇습니다. 제 생각에는, 저희는 고객들에게 일부 확신을 줄 수 있습니다: 예를 들면 "그것은 이 VPC에서 실행 중입니다", 그렇다면 적어도 이 경계를 제어하고, 그것이 무엇에 액세스할 수 있는지 알 수 있습니다; 또는 어떤 게이트웨이를 통해, 당신은 그것에게 역할을 할당할 수 있고, 마치 환경 내의 다른 부분에 역할을 할당하는 것처럼요.

이러한 것들은 우리가 지난 20년 동안 구축한 능력입니다. 우리는 이러한 구조를 중심으로 매우 풍부한 능력을 구축했고, Y Combinator의 스타트업이 AWS를 사용할 수 있을 뿐만 아닌, 전 세계의 은행, 의료 기관 및 전 세계의 정부 기관이 AWS을 사용할 수 있게 했습니다. AWS를 중심으로 한 이러한 전체 보안 구조를 통해, 고객들이 이 기술을 더 빠르게 사용할 수 있도록 도와주면서 빠른 행동에 필요한 안전 장벽을 제공할 수 있습니다.

많은 경우에, 기업에서, 특히 리스크 회피 성향이 강한 산업에서, 만약 당신이 이러한 보안 장벽을 갖고 있다면, 그들이 "이것은 이 샌드박스에서 실행됩니다. 빠르게 추진해도 괜찮다"라고 말할 수 있다면, 이것은 실제로 여러 고객들이 이러한 기술을 보다 넓은 범위의 시나리오에 활용하기 시작할 수 있도록 도와줄 수 있습니다.

주최자: 방금 말씀하신 여러 능력은 AWS가 지난 20년 동안 구축해 온 것이며, 지금 당신들은 그것들을 에이전트에 활용하려고 하고 있습니다. 이러한 능력은 AgentCore를 통해 오늘날 노출되어 있습니다. 그렇다면 OpenAI가 지원하는 Bedrock Managed Agents와 Bedrock AgentCore 간의 관계는 무엇인가요?

주: AgentCore는 기업용 AI 에이전트를 개발하기 위한 AWS의 "기초 도구 상자" 또는 "기본 구성 요소 플랫폼"으로 이해할 수 있습니다. 이 두 가지 관계를 이해하는 방법은 다음과 같습니다. AgentCore = 기본적인 레고 블록; Bedrock Managed Agents = AWS와 OpenAI가 함께 조립한 완제품 솔루션

Matt Garman: 우리가 함께 구축한 많은 것들은 AgentCore의 빌딩 블록을 기반으로 하여 이러한 부분들을 조합하였습니다.

주최자: 그래서 그것은 AgentCore 위에 있는 하위 집합과 같은 것인가요?

Matt Garman: AWS 팀과 OpenAI 팀은 함께 AgentCore의 구성 요소를 사용하여 OpenAI 모델 및 다른 많은 부분을 결합하여 이 제품을 공동으로 구축하였습니다.

AgentCore는 우리가 제공하는 기본 구축 모듈 세트로 이해할 수 있습니다. 마치 AWS에서, 에이전트 워크플로우를 직접 구축하려면 이러한 모듈을 직접 사용할 수 있습니다: 예를 들어 메모리 구성 요소, 안전한 실행 환경, 권한 관리 기능 등. 당신은 이러한 능력을 직접 구성하고 비즈니스에 적합한 에이전트 시스템을 조합할 수 있습니다. 이미 많은 고객이 이러한 능력을 운영 환경에서 실행하고 많은 멋진 응용프로그램을 만들어 내었습니다.

주최자: 하지만 OpenAI를 사용하는 것은 아닙니다.

Matt Garman: 하지만 OpenAI를 사용하지는 않습니다. 그들은 현재 다른 모델을 사용하여야 합니다. 사실, 아니, 전혀 그렇지 않습니다. 우리는 실제로 OpenAI를 사용하는 사람들이 있습니다.

주최자: 아, 그냥 다른 클라우드의 모델을 호출하거나 유사한 방식이죠.

맷 가만: 그들은 그냥 OpenAI 모델을 직접 호출하는 겁니다. 그래서 오늘 그들이 이미 OpenAI를 사용하여 이 작업을 수행한 사람이 있습니다. 그들은 Bedrock 기본 방식으로 안에 직접 사용한 것은 아니지만 여전히 그것을 사용하고 있습니다. 이것은 개방형 생태계이며, 당신은 다양한 기능들을 가져다가 당신이 원하는 모든 것을 구축할 수 있습니다. 저는 사람들이 계속해서 그렇게 할 것이라고 확신합니다.

외부에는 많은 빌더들이 매우 즐기는데요 — 샘의 비유를 빌리자면 — 오늘이라도 이미 필요 없을지는 몰라도, 그들은 여전히 집에서 컴퓨터를 직접 조립하는 것을 좋아합니다. 사람들은 구축하는 것을 좋아합니다. 우리는 많은 시간 동안, 사람들이 계속해서 자신의 에이전트를 구축할 것이라고 생각합니다. 그러나 그 중 대다수는 더 간단한 방법이 필요할 것이며, 그들은 이러한 모든 부분들을 스스로 구성하고 싶어하지 않을 것입니다. 이것이 바로 이번 협력으로 출시된 것 중 하나입니다.

주최자: 이 차이를 좀 더 명확히 설명하고 싶습니다. Bedrock 관리형 에이전트는 호스팅형 서비스입니다; 그러나 사용자는 AgentCore를 사용하여 AWS나 기타 클라우드 상의 다른 모델에 연결할 수도 있습니다. 샘, 이것이 Azure 상에서 OpenAI와의 형태와 차이점이 되는 건가요? 간단히 말해서, Azure 상에서 사용자는 주로 OpenAI API에 직접 액세스하지만, Amazon 상에서 이번에는 보다 완전한 호스팅형 에이전트 서비스입니다. 이해가 맞나요?

샘 알트만: 맞습니다.

주최자: 이에 대해 매우 확신하시나요? 이것이 여러 측면에서 정확하게 정의되어 앞으로 문제가 될 여지가 전혀 없을 건가요?

샘 알트만: 네. 시간이 흘러가면서 상황이 발전할 것이라고 생각하지만, 시작점으로서 이 방식에 대해 매우 확신이 있습니다.

주최자: 이것은 AWS의 독점 제품이 될까요? 아니면 단순히 "우리는 Amazon의 모든 API를 사용하고 있기 때문에 당연히 Amazon에서만 제공됩니다"라는 것일까요? 아니면, 이것은 단순히 "우리는 Amazon API를 사용했기 때문"이 아니라, 전체 호스팅형 사용 경험 자체가 현재 Amazon에만 위치할 계획인가요?

Sam Altman: 정신적으로, 우리는 이것이 두 회사 간의 공동 노력이 되기를 희망합니다.

주최자: 알겠습니다. PR 자료에도 언급되었지만, Matt가 말한 것과 연결됩니다: 이론적으로 다른 API를 호출하여 모든 것을 직접 통합할 수 있습니다. 그러나이 사례에서는 고객 데이터가 AWS 내에 유지됩니다. 그렇다면 OpenAI가 정확히 무엇을 볼 수 있는가? 이게 무슨 뜻이죠?

Matt Garman: 네. 모든 것이 기본적으로 귀하의 VPC에 유지되므로 데이터는 Bedrock 환경에서 안전하게 보호됩니다.

참고: VPC는 Virtual Private Cloud의 약어로, AWS 내에서 기업이 설정한 "사설 클라우드 네트워크 공간"으로 이해할 수 있습니다.

주최자: 알겠습니다. 이 제품은 OpenAI 모델 위에서 Bedrock에서 실행되는 것이며, 이러한 모델은 Trainium에서 실행되는 것인가요?

Matt Garman: 이들은 다른 방식으로 혼합하여 실행됩니다—일부는 Trainium에서, 일부는 GPU에서 실행됩니다.

참고: Trainium은 AWS가 자체 개발한 AI 가속 칩으로, 대형 모델의 학습과 추론을 지원합니다. NVIDIA GPU와 유사하게, 이는 하부 계산 인프라에 속합니다. 보통 기업 고객은 Trainium에 직접 액세스하지 않고, Bedrock와 같은 호스팅 서비스를 통해 하부 계산력을 간접적으로 사용합니다.

주최자: 이것은 시간적 요인 때문인가요? 몇 달 전 발표한 것을 기억하는데...

Matt Garman: 부분적으로는 시간적 요인이고, 부분적으로는 능력적 요인입니다. 시스템을 공동으로 구축하는 과정에서 다양한 구성 요소를 혼합하여, 각 부분에 적합한 인프라를 사용할 것으로 예상됩니다. 그러나 시간이 흘러며, 점점 더 많은 부분이 Trainium에서 실행될 것입니다.

Sam Altman: 우리는 Trainium에 이러한 모델을 실행시키는 것을 매우 기대합니다.

AI 플랫폼 경쟁, 모델에서 인프라로

주최자: 상상할 수 있어요. Matt, Trainium에 관한, 빠른 질문이 있습니다. 더 일반적인 질문이기도 합니다. 지금 나는 Trainium을 다음과 같이 이해하고 있는데, 맞는지 확인하려고 합니다. Trainium이라는 이름은 불행한 것이며, 실제로 그 중요성은 추론에 있을 것입니다. 그 주요한 전개 방식은 Bedrock와 같은 관리 서비스를 통해 이루어질 것입니다. 즉, 고객은 자신이 구체적으로 어떤 계산 자원을 사용하고 있는지 심지어 모를 수도 있습니다. 이해가 공정한가요?

맷 가먼: 우선, 저는 AWS 모든 서비스의 엉망으로 이름 짓는 데 책임이 있다고 자원합니다.

진행자: 괜찮아요, 저는 Stratechery라는 입소문에 의존하는 웹사이트를 운영 중이라서, 엉망으로 이름 짓는 것을 완전히 이해합니다.

샘 알트만: 저는 Trainium이라는 단어가 멋진 것 같아요.

맷 가먼: 그것은 실제로 멋져요.

진행자: 그 단어는 정말 멋지지만, 그저 나에게는 추론 칩보다는 훈련 칩 같은 느낌이에요.

맷 가먼: 맞아요. 하지만, 이름은 일단 제쳐두고, 그것은 훈련과 추론 둘 다에 유용해요. 솔직히 말해서, 이것은 저희를 매우 흥분시키는 칩이에요. 현재 세대든 후속 버전이든, 우리는 그것이 거대한 비즈니스가 되고, 또한 우리가 함께 해야 할 많은 일의 중요한 움직임이 될 것으로 기대합니다.

그리고 제가 생각하기에, GPU와 마찬가지로, 여러 이러한 가속 칩들과 상호 작용하려면 추상화 계층을 통해 접촉할 것입니다. 사실상 대부분의 고객들은 GPU와 직접 상호 작용하지 않을 것이고, 아마도 그래픽과 같은 장면에서 자신의 노트북에서 사용하는 경우에만 그럴 수 있겠지요. 그러나 OpenAI와 상호 작용할 때, 그것들이 GPU 위에서 실행되든 Trainium 위에서 실행되든 TPU 위에서 실행되든, 당신은 GPU와 대화하고 있지 않습니다; Claude와 대화할 때도, 그것이 GPU, Trainium 또는 TPU에 있는지와는 상관없이, 당신은 그 칩들과 대화하는 게 아니라 인터페이스와 대화하고 있는 것입니다.

거의 모든 추론은 소수의 모델로 이루어집니다. 그래서 5개, 10개, 20개 또는 100개의 모델, 어느 것이든, 수백만 명이 그러한 칩들을 직접적으로 대상으로 프로그래밍하는 것은 아닙니다. 미래도 마찬가지일 것이고, 그 이유는 이러한 시스템이 너무 복잡하고 규모가 크기 때문입니다. 모델을 훈련시키려면, 충분한 자금을 갖고 있는 사람은 많지 않고, 그것들을 진정으로 관리할 능력이 있는 사람도 많지 않습니다. 그들은 매우 복잡한 시스템이며, OpenAI 팀이 대형 컴퓨팅 클러스터에서 가치를 추출하는 능력은 매우 놀라운 것이지요. 그러나 이러한 팀을 소유한 사람은 별로 없습니다. 그것이 정확히 어떤 칩인지 여부는 중요하지 않고, 저는 이것이 모든 가속 칩에 대해 성립된다고 생각합니다.

샘 알트만: 벤, 저는 점점 더 느끼고 있습니다. 저희가 회사로서 해야 할 일은 토큰 공장이 되는 것입니다. 그러나 고객들이 정말로 관심 있는 것은, 우리가 최저 가격에 최고의 지능 단위를 제공하고, 그들이 원하는 양과 용량으로 제공할 수 있는지입니다.

MC: 지금과 같은 토큰 가격 책정 방식을 계속 고수할 것으로 보나요? 즉, 토큰을 기준으로 가격을 매기는 방식. 장기적으로 이게 합리적인가요?

Sam Altman: 합리적이지 않습니다. 사실, 방금 출시한 5.5 모델이 흥미로운 예시입니다. 이 모델의 단일 토큰 비용은 5.4보다 훨씬 높지만, 동일한 답을 얻기 위해 필요한 토큰 수가 크게 줄었습니다. 사실, 여러분이 얼마나 많은 토큰을 사용했는지는 중요하지 않습니다. 여러분이 원하는 건 작업이 완료된 것이죠. 여러분이 원하는 건 가격과 얻을 수 있는 용량입니다.

그래서 방금 "토큰 공장"이라고 말했던 건 잘못된 표현일 수도 있습니다. 우리는 더 정확히는 지능 공장이거나 비슷한 것입니다. 우리는 가능한 한 낮은 비용으로 가능한 많은 "지능 단위"를 제공하고 싶어합니다. 큰 모델이 더 적은 토큰을 사용하거나, 작은 모델이 많은 토큰을 사용하든 상관없습니다. GPU나 Trainium을 사용하든 다른 방법을 통해 이를 수행하든, 고객들이 그에 대해 신경 쓰지 않을 거라고 생각합니다.

사실, 그들은 그런 걸 직접 다루지 않아도 됩니다. 여러분이 Codex에 무언가를 넣거나 SRE, 즉 Stateful Runtime Environment에서 새 에이전트를 구축할 때 이런 문제에 대해 고민할 필요가 없다는 거죠. 여러분이 한 일에 비해 비용이 얼마나 적은지에 대해 놀라게 될 뿐입니다.

MC: 토큰 사용량 감소는 모델 그 자체에서 오는 건가요, 아니면 부속 시스템(Harness)에서 오는 건가요?

Sam Altman: 주로 모델에서 오며, 부속 시스템(Harness)의 작은 역할도 있습니다.

MC: 알겠습니다. Matt, 그러면 방금 Sam에게 한 독점적인 질문에 대해. 앞으로 다른 모델에 대한 이와 유사한 관리 서비스를 제공할 계획이 있나요?

Matt Garman: 우리는 현재 OpenAI와 이를 진행 중이며, 서로가 공동으로 구축하고 있는 것에 대해 매우 흥분합니다. 먼 미래에 대해서는 아직 말하기에는 시간이 너무 멉니다.

MC: "먼 미래에 대해서는 아직 말하기에는 시간이 너무 멉니다."라는 대답은 일단 보류하겠습니다. 괜찮아요, 이 질문을 하지 않을 수 없어요.

고객에 관해 한 가지 더 질문이 있습니다. Sam, 방금 말한 바를 고려할 때, 여러분 둘의 의견도 듣고 싶습니다. 고객이 실제로 프로덕션 환경에 진입할 때, OpenAI의 책임은 어디에서 끝나고, AWS의 책임은 어디에서 시작하나요? 제가 듣기론, 모든 데이터가 AWS 상에 있고 데이터가 그대로 남아 있으며 고객이 더 상위 수준에서 작동한다면, 결국 AWS가 책임을 져야 하는 것인가요? 소비자의 입장에서 보면 제가 이해한 게 맞나요?

Matt Garman: 네, 맞다고 생각합니다. 누군가와 연락해야 할 때는 AWS 지원팀에 연락하여 도움을 요청할 것입니다. 이는 당신의 AWS 환경의 일부이며, 당신이 AWS 상에 구축한 것입니다. 당신의 AWS 계정 담당자들이 여러분을 지원할 것입니다. 우리가 그것을 구축할 때에도 OpenAI 동료들을 참여시켜 이 제품을 가장 잘 활용하거나 이와 유사한 문제를 다루는 데 도와주도록 할 것입니다. 어떤 경우에는 우리가 그들이 도와 주어야 하는 버그를 해결해야 할 때가 있고, 이때는 그들에게 업그레이드해 줄 것입니다. 그러나 AWS가 여러분이 직접 상호 작용하는 일선 지원이 될 것입니다.

주최자: Sam, 이 비즈니스가 OpenAI Core API 비즈니스에 비해 어떻게 규모화되어 보이나요?

Sam Altman: 저는 이것이 매우 크다면 좋겠습니다. 우리는 이에 많은 노력을 기울이고, 상당한 컴퓨팅 리소스를 구매하는 것에 투자하고 있습니다. 이 모든 것을 지원할 많은 수익이 있을 것이라고 믿습니다. 내가 점점 믿게 되는 프레임워크 하나는: 가격이 충분히 낮을 때, 지능에 대한 수요는 본질적으로 한계가 없다는 것입니다.

주최자: 그래서 이 관점에서 보면, 이 수요는 매우 탄력적입니까? 가격 하락, 수요 상승?

Sam Altman: 물론 그렇습니다. 그러나 다른 예로, 물가가 낮아지면, 물을 조금 더 마실지도 모르고, 하루에 한 번 씻던 목욕을 하루에 두 번 씻게 될지도 모릅니다. 이것에는 어느 정도 탄력이 있습니다. 그러나 어느 정도까지 "당신은 알죠? 내 물은 충분해"라고 말할 것입니다.

주최자: 그리고 만약 물이 필요하다면, 가격이 얼마든 사게 될 것입니다.

Sam Altman: 기타 공공요금에도 마찬가지입니다. 전기 요금이 싸지면, 당연히 더 많은 전기를 사용할 것입니다. 그러나 지능을 한 종류의 공공요금으로 생각하면, "나는 더 많이 원한다. 가격이 충분히 낮다면, 내가 계속해서 더 많은 것을 사용할 것입니다"라고 생각하는 공공요금은 또 어딨을지 모르겠습니다.

Matt Garman： 재미있는 부분은, 계산 능력 또한 크게 비슷한 방식으로 작용한다는 것이다. 오늘날 한 계산 주기의 비용을 생각해보자, 30년 전보다 얼마나 저렴해졌는지 놀랍다. 그리고 오늘날 판매된 계산 양은 언제보다 많다.

주최자： 그러합니다. 매우 높은 규모에 도달하고 비용이 중요해지기 전까지, 사람들은 계산 비용에 대해 실제로 생각하지 않는 경향이 있습니다. 전반적으로 전략적인 측면에서, 모두는 그냥 자신들이 계산 능력을 보유했다고 가정하는 것뿐입니다. 그렇다면 AI가 이 단계에 도달하려면 이제 얼마나 더 많은 일을 해야 할까요? 다시 말하면, 사람들은 「나는 여기에 얼마나 많은 돈을 썼는가」를 초기 대응으로 생각하지 않습니다.

Sam Altman： 제가 그것이 현재 초기 대응인 것은 아니라고 보지는 않습니다. 이제는 가격에 대해 물어오는 고객이 훨씬 많이 있습니다: "가격이 얼마든, 제가 더 많은 것을 원하면 제공해주실 수 있나요? 나는 그냥 더 많은 용량을 원할 뿐입니다. 추가 비용을 지불할 의향이 있습니다." 그에 비해, 우리에게 가격을 놓고 시비 거는 사람들은 훨씬 적습니다.

하지만 저는 정말로, 우리가 가격을 상당히 낮춰나갈 것이라고 믿습니다. 그 급강하게 낮춰나가는 것이 매우 눈부실 것입니다. 아마도 이를 통해 우리가 이 분야로 유입되고자 하는 부는 거지 많아졌을 것입니다. 하지만 나는 확신합니다, 우리는 현재의 이 intelligence 수준의 비용을 계속해서 크게 낮출 것입니다.

제가 조금 놀랐던 한 가지는 있습니다, 이것이 계속 이러한 상황으로 유지될지는 모르겠지만, 적어도 오늘날에는 총 시장 수요 중 상당 부분이 절대적인 선두 주자 모델에 집중되어 있다는 것입니다.

주최자： 그러합니다, 이에 대해 많은 고민이 필요합니다. 서비스 선두 주자 모델은 매우 비쌉니다, 실제로 사람들은 이전 버전을 사용할 수도 있습니다. 하지만 당신이 의미하시는 것은, 어떻든 사람들은 그저 최신 기술을 사용하고 싶어하는 것인가요?

Sam Altman： 지금까지는, 네.

Matt Garman： 나는 이것이 매우 좋은 신호라고 생각합니다, 우리가 실제로 원하는 상태에 도달하기까지 많은 일이 남아 있으며, 아직 충족되지 않은 수요가 너무 많다는 것을 보여준다고 생각합니다. 나는 실제로 이것이 40년 전의 계산 수요와 많이 닮았다고 생각합니다. 당시 컴퓨터 하나의 가격은 매우 비쌌지만, 오늘날 모든 사람의 휴대폰에는 그 시절을 훨씬 능가하는 계산 능력이 들어가 있으며, 우리는 수십억 대 이러한 장치를 판매했습니다.

나는 AI 세계도 마찬가지로 발전할 것이라고 생각합니다. 오늘, 모든 사람들은 선두 주자 모델을 사용하려고 하며, 그것이 다양한 유용한 작업을 수행하기 위한 필요성 때문이며, 모두가 외부의 능력에 매우 흥분합니다.

시간이 흐름에 따라, 당신은 혼합 모델 그룹을 갖게 될 것입니다. 덧붙여 말하자면, 어떤 작은 모델들은 특정 작업을 수행할 수 있게 되며, 심지어 최신 OpenAI 모델이 아직 도달하지 못한 것들조차도 수행할 수 있게 될 것입니다. 그러나 그들은 시간이 지남에 따라 더 작고, 더 저렴하고, 더 빨라질 것입니다. 동시에, 암을 극복하고자 하는 대형 모델들이 존재할 것입니다.

그러나 저는 우리가 여전히 가능성의 초기 단계에 있다고 생각합니다. 가능성의 초기 단계에서 이미 이렇게 많은 수요와 빠른 성장을 보게 되면, 미래는 매우 흥분스럽습니다.

주최자: 조금이나마 염세적인 견해가 있나요? Sam씨, 귀하의 일부 고객은 이렇게 말할 것입니다. "우리는 OpenAI 모델을 사용하고 싶지만, 모든 것이 AWS에 있다. 우리는 옮기지 않을 거에요." Matt씨, 여러분은 이렇게 말할 것입니다. "봐, 모든 것이 AWS에 있다. OpenAI 모델을 가져올 수 있나요?" 그래서 그것은 이러한 수요를 충족시키는 것뿐입니다. 그리고 사실 AWS가 가장 크기 때문에 이 요구는 천문학적입니다. 이것이 가장 간단한 대답인가요? 아니면 여기에 또 다른 층이 있는데, 즉 높은 차별화를 제공할 수 있다고 생각하며, 그것이 양측에 새로운 고객을 유치할 것이라고 믿나요?

Sam Altman: 저희는 분명히 AWS 고객에게 접근할 수 있어 기쁘게 생각하고, 많은 사람들이 AWS를 매우 선호합니다. 네, 그 말은 사실입니다.

Matt Garman: 이 부분은 분명히 사실입니다.

주최자: (웃음) 네.

Matt Garman: 상호 작용도 마찬가지로, 우리의 고객들도 OpenAI 기술을 얻을 수 있어 기쁩니다.

Sam Altman: 그러나 저는 실제로 우리가 함께 놀라운 새로운 것을 구축할 수 있다고 확신합니다. 한 해 후에, 사람들이 이 문제를 다시 살펴볼 때, 모두가 가장 중요하게 생각하는 내용이 "오, AWS를 통해 이러한 모델에 액세스할 수 있게 되었다"는 게 아닐 것이라고 희망합니다. 또는 이와 유사한 것. 그보다는 "와, 우리는 이 새로운 제품이 얼마나 중요한지 전에는 인식하지 못했다"라고 말할 것입니다.

저는 모델, 하네스(Harness) 및 능력 층면에서, 우리가 새로운 형태의 계산에 매우 가까워지고 있다고 생각합니다. 이것은 사람들이 "이 모델의 API가 필요하다"와 같은 생각과는 매우 다른 느낌을 줄 것입니다.

Matt Garman: 전적으로 동의합니다, 이것이 핵심입니다. 첫 번째 부분은 아주 좋고 괜찮지만; 두 번째 부분, 이것이 우리 모두를 정말 흥분시키는 곳이라고 생각합니다.

주최자: 이것에 대해 말할 때, 방금 이야기를 꺼냈는데, 이 주제로 돌아가고 싶습니다. 하나의 이론이 있습니다, 정답은 아니며, 궁금합니다. 즉 "무엇을 구축해야 하는가"에 대한 것입니다. 구체적으로 말하면, 마침내 실제의 미들웨어나 중간 계층이 나타날 수 있습니다. 조직 내에서는 다양한 데이터베이스, SaaS 애플리케이션 및 다양한 조각 데이터가 있으며, 이것들은 서로 다른 시스템을 가로지르고 있습니다. 상단에는 에이전트 계층 또는 하네스가 있습니다. 그 사이에 구축해야 할 것이 있는 것으로 보입니다. OpenAI Frontier는 어떤 측면에서는 이 문제에 다가갔다고 볼 수 있습니다. 이것이 한 부분인가요? 아니면 이것이 구축해야 할 미래의 것인가요? 아니면 전혀 필요 없는 것일까요?

Sam Altman: 전부 당신이 말씀하신 대로입니다. 우리는 정말 그런 무언가를 거기에 필요로 합니다. 최근에 대규모 기업들과 특히 고객과 소통하면서 그들이 이야기하는 것은, "어떤 종류의 에이전트 런타임 환경이 필요하다고 생각해요; 제 데이터를 에이전트에 연결하고 나의 토큰이 어디에 사용되었는지, 사용되지 않았는지 이해하고 일종의 감독 기능이 있어야 해요; 그리고 어떤 종류의 워크스페이스가 필요하다고 하죠" - Codex처럼 내 직원들이 사용할 수 있는 것."

사람들이 요구하는 이러한 집합은 점점 더 일관되어지고 있습니다. 하지만 지금은 이 모든 제품을 실제로 구축해야만 합니다.

호스트: 더블 에이전트 레이어가 필요한 것처럼 들립니다. 하나는 중간층을 유지하기 위한 에이전트 레이어이고, 계속해서 다양한 데이터 소스로 파고들며, 다른 하나는 실제 사용자 인터페이스 레이어이며, 사람들이 실제로 상호 작용하는 곳입니다. 이게 우리가 가고 있는 방향과 일치하는 것일까요? 아니면 내가 잘못 생각한 걸까요?

Sam Altman: 이 두 가지 점에 대해서, 오늘날 세상이 나타날 수 있는 모습으로 동의합니다. 그러나 모델이 정말로 똑똑해지면, 우리가 미래 아키텍처가 정확히 무엇인지 아직 모른다고 생각합니다.

지금은 사용자 에이전트 레이어라고도 할 수 있는 이 레이어에서, 사람들은 실제로 여러 개의 에이전트와 상호 작용하고 싶어 합니다. 우리는 당신이 이것을 위한 에이전트를 빌드하도록 허용하며, 그것을 위한 에이전트를 위해 빌드하도록 하며, 그들은 서로 대화할 수 있습니다 등등. 그리고 회사 관리층에서, 사람들은 파일 시스템에서 파일을 탐색하는 데 도움이 되는 다양한 제어 메커니즘이 있을 것입니다.

호스트: 그리고 어느 순간, 당신은 단순히 이전에 대한 이유 없이 과거에 집착하고 있음을 깨닫게 될 것입니다. 이런 일들이 사실 모델 안에서 수행되어야 하는 것들이기 때문입니다.

Sam Altman: 그게 제가 말하고 싶었던 바로 그겁니다. 어느 순간에, 당신은 말하게 될 것입니다. "사실, 우리는 이미 놀라운 능력을 갖고 있기 때문에 전체 아키텍처를 다시 디자인하죠."

Matt Garman: 네, 동의합니다. 여기에는 분명히 다른 것이 나타날 것입니다. 현재 우리가 그것이 무엇인지 정확히 알고 있는지 확신하지는 못하지만, 이것이 바로 이 일의 아름다움입니다. 고객에게 사용하고 구축하도록 허용하고, 그런 다음 그들로부터 배우고, 어떻게하면 그들에게는 더 쉽고 빠르고 좋은 경험을 제공할 수 있는지 파악할 수 있습니다.

호스트: Sam, 이것은 우리가 이 제품 발표 인터뷰를 하는 두 번째 시간입니다. 이전에 Kevin Scott과 함께 New Bing에 대해 이야기했던 적이 있었죠. 당시에는 구글에 대한 위협을 확신하셨다고 들었는데요. 후에 결과는 어떠했다고 생각하시나요?

참고: Kevin Scott는 마이크로소프트의 최고 기술 장관입니다. New Bing은 2023년 2월 마이크로소프트가 출시한 AI 검색 제품으로, OpenAI 기술을 기반으로 전통적인 검색을 "링크 반환"에서 "직접 답변 생성 및 작업 보조"로 업그레이드하려는 상호 작용 방식을 시도했습니다. 당시 New Bing은 Google 검색의 지배력에 도전하기 위한 마이크로소프트의 중요한 시도로 여겨졌습니다.

Sam Altman: 내가 예상한 것보다 우리가 더 잘했다고 생각합니다. ChatGPT는, 내가 생각하기에, 페이스북 이후 처음으로 규모가 큰 새로운 소비자 제품입니다.

주최자: 이것이 사실인 답변인가요? 즉, 당신은 예상보다 더 잘했지만, 주로 ChatGPT에 나타났으며 다른 분야는 아닌가요?

Sam Altman: 아니요, 저희는 API에서도 상당히 잘했다고 생각합니다, 특히 Codex에서. 하지만 그건 제가 당시에 생각했던 것이 아닙니다. 당시에 저는 이러한 새로운 유형의 언어 인터페이스가 사람들이 인터넷에서 정보를 찾는 방식을 바꿀지도 모른다고 생각했습니다. 또한, Google도 절대적으로 훌륭한 회사입니다. Google이 하는 일의 범위와 심도를 고려할 때, Google은 여전히 여러 면에서 과소 평가되었다고 생각합니다. 하지만 상대적으로, 나는 ChatGPT의 성과에 만족했습니다.

주최자: Matt, 구글에 대해 묻고 싶은 비슱한 질문이 있습니다. 구글은 최근 Thomas Kurian(Google Cloud의 CEO)이 그들의 완전히 통합된 기술 스택에 대해 이야기했는데, 모델에서 칩으로, 다시 agent layer까지 모든 것이 통합되어 있다고합니다. 당신은 오늘 다른 기업 임원과 함께 나왔는데, 정의상 아마존은 완전 내부 통합이 아닙니다.

이전에 여러 사람들은 당신들이 최첨단 edge model이 없다고 비판했습니다. 그러나 이제 추론 시대에 진입하여 여러 회사를 섭렴화해야하는 습관을 가지고 있습니다. 그렇다면 중립성을 유지하면서 더 좋은 위치에 있는 경우가 있습니까? 이것은 의도적인 것이며, 아니면 당신들이 의도하지 않았지만 중요해질 것을 이전에 인식하지 못한 것인가요?

Matt Garman: 의도한 부분이 있습니다. AWS를 시작한 이후, 우리는 파트너를 최종 고객을 지원하는 중요한 부분으로 간주해왔습니다. 처음부터 파트너십은 매우 중요한 것으로 보았습니다. 우리 전략의 깊은 부분은 항상 파트너와의 긴밀한 협력이었습니다. 아마 다른 몇 회사와 다르게, 우리는 파트너가 성공한다면, 그들이 우리 위에 있거나 우리와 함께 구축한다면, 우리도 성공했다고 생각합니다. 이것은 좋은 것입니다.

우리는 이를 케이크를 함께 키워가는 것으로 보고 있습니다. 이것이 승리입니다. 그러나 이는 다른 사람들이 세상을 보는 방식이 아닙니다. 때로는 그들이 "나는 모든 것을 가져야 한다"고 말할 수도 있습니다. 이것도 문제가 되지 않습니다. 이것 또한 한 종류의 관점입니다.

그러나 저는 선택의 중요성을 강조합니다. 그렇게 하면 최고의 제품이 이기게 됩니다. 그리고 이런 세상에서 당신은 1st party 제품을 가질 수도 있고 많은 3rd party 제품을 가질 수도 있습니다. 그러나 우리의 견해는, 우리는 고객이 가장 적합한 것을 선택할 수 있기를 희망합니다. 만약 그들에게 가장 적합한 것이 자체 구축한 것이라면, 그 역시 좋습니다.

우리에게 있어서, 만일 최고의 것이 파트너사가 구축했지만 그것이 우리 위에서 실행된다면, 우리는 이를 승리로 보는데 그 이유는 그것이 고객에게 가장 좋은 것이기 때문입니다. 우리는 오랜 기간 이러한 생각을 해왔으며 실제로 이것이 우리가 AI 세계에서 Bedrock 플랫폼을 구축하는 방식입니다. 우리는 다양한 모델을 지원하고 다양한 능력을 지원할 수 있기를 희망합니다. 이것이 사실이며, 데이터베이스부터 컴퓨팅 플랫폼까지 다른 모든 것들도 마찬가지입니다.

따라서 저는 이것이 신중히 계획된 전략이라고 생각합니다. 또한, 이것이 고객이 가장 선호하는 전략이라고 생각합니다. 그들은 이러한 방식을 좋아합니다. 우리는 또한 이 방향을 계속해서 진전시킬 수 있어서 매우 기쁩니다.

호스트: 네, 매우 흥미로운 이야기입니다. 소프트웨어, 플랫폼, 인프라 간의 균형이 여기에 있으며, 모든 사람들이 자신들이 모든 사람을 서비스할 것이라고 말합니다. 그러나 거의 앞으로 돌아갔다면, AWS가 시작할 때 I, 즉 인프라에서 시작했습니다. 제 관점에서, 이렇게 함으로써 거의 가장 큰 유연성을 제공했고, 당신들은 Sam과 중간에서 만날 수 있었습니다. Sam은 매우 강력한 S, 즉 소프트웨어를 가지고 있으며, 당신들이 함께 구축한 것은 P, 즉 플랫폼입니다. 이렇게 말해도 될 것 같습니다.

Matt Garman: 맞습니다. 어떤 부분은 실제로 조금 어려워질 수 있습니다. 우리가 "우리에겐 하나의 S3만 있다"고 말했을 때, 다른 S3 제품이 없다는 것은 사실입니다. 그래서 어떤 중요한 구성요소들은, 당신이 말한 것처럼, 우리가 직접 구축한 것에 매우 중점을 두게 될 것입니다.

그러나 기술 스택을 따라 올라갈수록, 저는 능력 집합이보다 다양해질 것으로 생각합니다. 어찌되었든, 어떤 회사든 어플리케이션 전체를 보유할 것 같진 않습니다. 기술 스택을 따라 내려가면서, 모델과 서비스 레이어로 들어가면 수가 줄어들 것이며, 다시 인프라 레이어로 내려오면 더욱 적어질 것입니다. 그러나 우리의 관점은, 전체 파트너 집합을 환영하고자하는 것입니다. 이는 우리의 최종 사용자에게 유익한 일입니다.

호스트: Sam, 마지막으로 하고 싶은 말 있으신가요?

Sam Altman： Matt가 말한 것이 정말 좋다고 생각해요. 저는 정말, 지금 개발자들이 구축할 수 있는 새로운 세대 제품에는 엄청난 잠재력이 있다고 믿어요. 우리가 예상하는 내년 모델 역량이 매우 가팔라오르는 곡선으로 발전하는 것을 고려하면, 우리가 함께 이 여정을 떠날 수 있고, 그것을 정말로 가능하게 하는 플랫폼을 구축하기 위해 힘쓰는 것은 매우 좋은 시기입니다. 사람들이 그것을 좋아할 것이라고 생각해요.

주최자: 좋아요. Matt, Sam, Stratechery에 와 주셔서 감사합니다.

Matt Garman: 정말 멋져요. 초대해 주셔서 감사합니다.

Sam Altman: 감사합니다.

[원문 링크]

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia