소개

2026 년 4 월 말, 샌프란시스코에서 Sequoia Capital이 4 번째 AI Ascent 컨퍼런스를 개최했습니다. 이 컨퍼런스는 OpenAI, DeepMind, Anthropic, NVIDIA, Waymo 등 AI 산업의 주요 기업과 ElevenLabs, XBOW, Recursive Intelligence, Starcloud 등 신흥 기업을 초청했습니다. 13 개의 대화가 기본 모델, 프로그래밍 패러다임, 로봇 공학, 자율 주행, 칩 디자인, 우주 컴퓨팅 및 새로운 컴퓨팅 아키텍처를 아우르며, AI 산업의 최첨단 주제를 거의 모두 다루었습니다.

지난해와 비교했을 때, 이번 AI Ascent의 주요 메시지는 더 직접적입니다. AI가 더 이상 효율을 향상시키는 도구가 아니라, 실제 작업 흐름으로 진입하고, 과거에만 사람이 할 수 있었던 복잡한 작업의 일부를 인수하기 시작했다는 것입니다. Sequoia는 개회사에서 이를 "실용적인 AGI"의 도입이라고 지칭했습니다. 이는 기계가 모든 면에서 인간과 동등하다는 것이 아니라, 상업 및 생산성 관점에서 볼 때, 장거리 지능체가 시연에서 사용 가능한 수준으로 넘어섰다는 것을 의미합니다.

이것이 이번 컨퍼런스의 가장 중요한 배경이기도 합니다. 지능체가 싸고 이용 가능하며 확장 가능해지면서, AI의 경쟁 포커스는 "모델이 수행할 수 있는가"에서 "그것을 실제 세계에 어떻게 연결하는가"로 이동하고 있습니다. 이를 통해 소프트웨어, 서비스, 조직, 하드웨어, 에너지, 보안 및 물리적 공간이 다시 설계될 수 있습니다.

Sequoia가 전하려는 이야기는 명확합니다. 지능이 더 이상 사치품이 아니라 새로운 산업 원료로 변화하고 있다는 것입니다. 다음 단계에서 정말 중요한 것은 누가 더 똑똑한 모델을 보유했는지가 아니라, 고객을 더 빨리 이해하고, 프로세스를 재구성하고, 에이전트를 스케줄링하며, 이러한 저렴한 지식을 지속 가능한 비즈니스 시스템으로 전환할 수 있는지입니다.

따라서, 이 컨퍼런스는 AI 기술의 다음 단계뿐만 아니라, 더 큰 문제에 대한 토론입니다. 기계가 점점 더 많은 지적 노동을 맡을 때, 인간, 기업 및 사회가 자신의 가치를 어떻게 재정립해야 하는지에 대한 문제입니다.

주요 주제

첫째, 지능이 대량 상품이 되고 있습니다.
Sequoia는 이 변화를 19 세기 말의 "알루미늄"에 비유했습니다. 이전에는 금보다 비쌌지만, 전해 분해법의 보급 덕분에 수십 년만에 손쉽게 얻을 수 있고 어디서나 사용할 수 있는 산업 재료가 되었습니다. 오늘날, 박사 수준의 전문 지식, 중산층의 경쟁력을 정의했던 인지 장벽은 비슷한 운명을 겪고 있을 수 있습니다. 고급 지능은 이제 천연적으로 희귀하지 않고, 대규모로 생산, 호출 및 배포되기 시작했습니다.

둘째, 병목 현상이 기계에서 사람으로 옮겨가고 있습니다.
Greg Brockman이 반복해서 인용되는 문장을 말했습니다: 에이전트가 자립적으로 작업할 수 있을 때, 인간 주의력은 경제 전체에서 가장 희귀한 자원이 될 것입니다. Karpathy는 같은 판단을 더 직접적인 방식으로 표현했습니다: 기계가 거의 모든 실행 세부 사항을 처리할 수 있을 때, 인간이 포기할 수 없는 유일한 능력은 자신이 정확히 무엇을 원하는지 이해하는 것입니다. 문제는 더 이상 기계가 할 수 있는지 여부가 아니라, 인간이 올바른 목표를 설정하고 결과를 신뢰할 수 있는지 확인하고 달성할 가치가 있는지를 결정할 수 있는지입니다.

세 번째, 프로그래밍은 해결되었지만, 조직은 아직 아닙니다.
Anthropic 내부에서는 이미 모델에 의한 상당한 양의 코드 생성이 구현되어 있으며, 서로 다른 에이전트는 심지어 Slack에서 자율적으로 협업할 수 있습니다. 보리스 체르니의 판단은 더욱 발전했습니다: 진정한 모약은 더 이상 특정 모델 버전이 아니라 AI에 대한 조직의 "원주" 정도입니다. 기존 기업에 대해 이는 친숙한 결과가 아닙니다 - 왜냐하면 격차는 도구 사용 능숙도뿐만 아니라 해당 기업이 에이전트를 중심으로 프로세스, 권한, 협업 방식 및 관리 구조를 다시 설계하려는지에 따라 달라집니다.

네 번째, AI가 디지털 세계에서 물리 세계로 돌아오고 있습니다.
Jim Fan의 로봇, Waymo의 2000만 회 자율 주행 차량, ElevenLabs의 감정적인 음성은 서로 다른 측면에서 AI가 더 이상 텍스트, 코드 및 이미지를 처리하는 화면 도구가 아니라 빛, 소리, 힘, 동작 및 공간을 이해하고 개입하기 시작했음을 보여줍니다. 지난 10년 동안 "소프트웨어가 세상을 흡수했다"는 것이 핵심 주제였으며, 이어서 AI는 직접적으로 물리 세계로 진입하여 자동차, 공장, 로봇, 음성 상호작용 및 물리적 생산 자체를 변화시킬 수 있습니다.

다섯 번째, 연산 능력의 끝은 물리적인 하부에 있습니다.
지상 데이터 센터의 토지, 전력, 냉각이 이미 한계에 다다르자, 일부 과감한 기업들이 다른 해결책을 제시했습니다: Starcloud는 칩을 우주로 보내고자 하고, Recursive는 AI에게 스스로 칩을 설계하도록 하며, Unconventional AI는 폰 노이만 아키텍처를 우회하여 뇌를 모방하려고 하며, Flapping Airplanes는 "폭력적인 확장" 자체를 의심 - 인간이 훨씬 적은 데이터를 사용하여 동일한 기술을 배울 수 있다면 오늘날의 AI 알고리즘은 근본적으로 비효율적할 수 있습니다. 연산 능력 경쟁의 종점은 GPU를 더 많이 구입하는 것에서 에너지, 칩, 아키텍처 및 데이터 효율에 대한 근본적인 재구성으로 나아가고 있습니다.

여섯 번째, 보안은 이미 "AI 대 AI"의 비대칭 전장으로 진입했습니다.
XBOW의 스마트 에이전트가 글로벌 화이트 해커 랭킹에서 1위에 올라섰는 것은, AI가 더 이상 보안 연구원의 보조 도구가 아니라 독립적으로 취약점을 발견하고 확인하며 이용할 수 있는 자체 공격 시스템임을 의미합니다. 더욱 심각한 것은, 오픈 소스 모델의 능력이 향상됨에 따라 이러한 공격 능력이 앞으로 6~9개월 내에 빠르게 확산될 수 있다는 점입니다. 네트워크 보안은 더 이상 인간 해커 간의 공격과 방어가 아니라 이미 시작된 AI 군사 경쟁의 타이머가 작동 중인 상황입니다.

이러한 단서들을 결합하면, 2026년의 AI 산업은 기술 역량이 제품 형태, 조직 구조 및 사회 규칙을 크게 앞지르고 있다는 불편한 위치에 있음을 발견할 수 있습니다. 모델은 매일 강해지지만 그를 수용하는 "컨테이너" - 기업 프로세스, 응용 프로그램 인터페이스, 심지어는 인간의 주의력까지 - 는 아직 따라잡지 못했습니다.

전체 회의 토론은 본질적으로 같은 질문에 대답하고 있습니다: 기계가 점차적으로 더 많은 인간의 사고 노동을 수행할 수 있는 세계에서, 인류에게 남아 있는 것은 무엇인가요?

세쿼이아의 대답은 다소 직관적이지 않습니다: 감정, 신뢰, 규모화할 수 없는 것들입니다. 브록만의 대답은 "당신이 원하는 것"이고, 카파시의 대답은 "기계가 올바르게 작업을 수행했는지 판단할 수 있는가"입니다. 이러한 몇 가지 대답은 결국 동일한 바를 가리킵니다: 지능 자체가 더 이상 부족하지 않을 때, 의도, 판단 및 관계가 새로운 화폐가 될 것입니다.

다음은 이 회의에서 진행된 총 13개의 대화 요약입니다.

포럼 개요

중심 연설

세쿼이아 파트너스 개회 연설: 이것이 AGI다

연설자 Pat Grady, Sonya Huang, Konstantine Buhler는 세쿼이아 캐피털 (Sequoia Capital) AI 투자 라인의 핵심 파트너입니다. Sonya Huang은 전 세계적으로 화제가 된 2022년 Generative AI: A Creative New World 논문의 저자로, 최초로 생성형 AI에 대한 체계적인 전망을 제시한 벤처 투자자 중 한 명으로 평가받습니다. 세 사람은 모두 2026년의 This is AGI 논문의 공동 저자이며, 이것은 이 회의의 사고 방식의 근간입니다. 세쿼이아 캐피털 자체는 애플, 구글, 엔비디아, Stripe, OpenAI 등의 회사에 초기 투자한 실리콘밸리의 오랜 역사를 가진 최고의 벤처 투자사 중 하나입니다.

AI는 정보 처리의 본질을 철저히 뒤집는 "계산 혁명"이며, 단순히 정보 배포의 "통신 혁명"만을 가속화시키는 것이 아닙니다. 과거의 인터넷과 모바일은 정보의 전파 경로만을 변경했지만, AI는 정보 생성의 기본 논리를 바꾸어 개발자들이 애플리케이션을 구축하는 기술적 기반인 floor이 매일 이동하고 있음을 의미합니다. 이 판단의 중요성은 기존의 안정적인 기술 스택이 과거로 가게되며, 개발자들이 지속적으로 진화하는 모델 기반과 공존하는 방법을 배워야 한다는 것입니다.

AI는 전통적인 소프트웨어보다 10배 큰 10조 달러 시장에 직접 "전문 서비스"를 제공함으로써 진입할 것입니다. 글로벌 소프트웨어 시장 TAM (총 주소 가능 시장)은 수천억 달러에 불과하며, 미국의 법률 서비스만이 이미 4000 억 달러에 달해 전체 소프트웨어 산업과 동등한 규모를 가지고 있습니다. 이것은 AI의 비즈니스 가치가 더 이상 도구로 판매되는 것이 아니라, 직접적으로 인간 전문가의 고가치 작업을 맡아 수행하는 에이전트로서 가치를 제공하게 될 것을 제안합니다.

비즈니스 현장에서 실패에 대응할 수 있는 자율 Agent 가 AGI(일반적 인공지능)의 도래를 의미합니다. 시스템이 임무를 수행하고 실패를 자가 복구하며 최종 목표까지 지속되는 경우, 그 기능적 측면에서 이미 AGI와 동등합니다. 이 평가는 직감에 반하는데, 학술적 정의에 묶이지 말고 독립 실행 능력을 갖춘 AI는 이미 "보다 빠른 말"에서 "경쟁적 차원 변화를 가져오는 자동차"로 진보했으며, 효율성은 10배에서 40배로 향상되었습니다.

변화무쌍한 기본 능력을 갖춘 시점에서, 요새를 형성하는唯一한 논리는 "고객에 대한 극도로 가까운 접근"입니다. MAD 전략 - 폐성(보호)Moats, 허용성(Affordance, 제품의 직관적 이용 용이성), 확산Diffusion -은 가치를 잠그기 위해 기술 적출에서가 아닌 고객에게서 연역(고객 요구에 따른)을 사용합니다. 인간의 요구가 모델 능력의 변화보다 훨씬 느리기 때문에 고객에 대한 이러한 심층적 포장은 모델 추적보다 더 오래 지속됩니다.

에이전트의 자율성은 "분 단위 보조"에서 "시간 단위 자립 직원"으로 변화하고 있습니다. 복잡한 임무에서 모델이 올바른 트랙을 유지하는 데 걸리는 시간을 측정하는 meter chart(임무 지속성 지표)는 1년 전의 분 단위에서 현재의 수 시간으로 급격히 증가하여, 인간 검토가 필요 없는 dark factories(완전 자립 운영 비즈니스 프로세스)를 지원할 수 있습니다. 이는 생산성 병목현상이 극복되었음을 의미하며, "6 주 안에 800만 줄의 코드를 다시 작성"하는 초자연적인 반복이 일상화되고 있습니다.

인간 사회는 "인지 산업혁명"의 이브에 있으며, 기계가 세계의 99.9% 뇌력 노동을 맡을 것입니다. 상업 산업혁명이 99%의 인체 노동을 대체했던 것처럼, 미래 대부분의 분석, 결정 및 창작은 신경망이 맡게 될 것입니다. 이 판단의 제창은 지식이 무한히 확장 가능하고 필요에 따라 호출할 수 있는 저비용 산업용 일반 소비 재화가 될 것임을 나타냅니다.

고급 지식 기술은 곧 "알루미늄 시대"를 맞이할 것이며, 비싼 사치품에서 저렴한 대량 상품으로 타락할 것입니다. 전이 전기 분해의 보급때문에 금보다 비쌌던 알루미늄이 손쉽게 버려질 수 있게 되었던 것처럼, AI가 박사급 지식을 즉각적으로 요구할 때에도 동일한 효과를 낼 것입니다. 이는 엄연한 미래를 예고합니다: 몇 년 동안 축적된 전문 지식 장벽이 순식간에 붕괴될 수 있으며, 지적 자체가 더 이상 희귀 가치를 지니지 않을 것임을 의미합니다.

지식이 전면 일반화된 후, 대인 관계와 감정적 연결은 인간 사회의 유일한 실제 가치 지표가 될 것입니다. 사진술은 한 때 예술을 사실적인 것에서 영혼의 표현으로 전환시켰으며, 마찬가지로, 효율에 대한 AI의 최적 해결책은 종종 인간 직관을 뛰어넘는 "외계적 공간"을 나타내게 됩니다. 궁극적인 결론은 반직관적이지만 심오합니다: 일자리 전반을 기계가 맡을 미래에 있어서 유일하게 기계에 의해 대량화되기 어려운 사람 간 신뢰와 감정만이 최종적인 황금알이 될 것입니다.

이 대화를 기억할 수 있는 한 가지만 있다면, 무엇인가요?

과거에 값진 지성은 금방 플라스틱 봉지 처럼 싸게 변할 것이고, 미래에서 진정으로 당신을 경쟁력 있게 유지시키는 것은 문제 해결 능력이 아닌 타인을 이해하고 신뢰를 구축하는 감정일 것입니다.

모델 및 인식

Andrej Karpathy: Vibe 코딩에서 에이전트 엔지니어링으로(OpenAI 창립팀)

발표자 Andrej Karpathy는 AI 분야에서 가장 영향력 있는 "교육적 과학자"입니다. OpenAI 창립팀 구성원이자, 이후 Tesla AI 디렉터로서 자율 주행 시각 시스템을 책임지고, 2024년 Tesla를 떠나 AI 교육 회사 Eureka Labs를 설립했습니다. 그의 YouTube에서의 신경망에 대한 실습 영상 시리즈는 수많은 AI 엔지니어들의 입문 교재가 되었습니다. "Software 2.0", "Vibe 코딩" 등의 핵심 개념은 그가 만들었습니다.

최고 전문가조차도 AI 파도에서 "뒤처지는" 느낌을 받을 것이며, 기술의 발전이 보조 도구에서 자체 시스템으로 진화했기 때문입니다. 발표자는 2026년 초에 AI가 생성한 코드 블록을 수정할 필요가 없어졌음을 발견했으며, 복잡한 작업을 수행하기 위해 시스템을 신뢰하기만 하면 됩니다. 이 판단의 중요성은, AI가 자가 교정 및 폐쇄적 전달을 실현할 수 있을 때, 경험에 의존했던 개발자의 "바닥선"이 강제로 올라감으로써, 개인의 학습 속도가 기술 기반의 전환 속도를 따라잡기 어려워졌다는 것입니다.

현대 컴퓨팅이 Software 3.0 시대로 들어가는 중이며, LLM은 본질적으로 context를 지렛대로 하는 새로운 유형의 컴퓨터입니다. Software 1.0은 코드 작성, 2.0은 가중치 교육이었고, 3.0은 프롬프팅(암시적 지시어로 프로그래밍)을 통해 context(모델이 정보를 처리하는 동안의 메모리 공간)에서 프로그래밍합니다. 이는 소프트웨어 설치에 복잡한 호환 스크립트를 작성할 필요가 없다는 것을 의미하며, 정확한 세부 사항의 철자는 더 이상 핵심 경쟁 우위가 아닙니다.

많은 기존의 응용프로그램 구조가 불필요해지고 있으며, AI는 이제 원시 데이터 레벨에서 직접 처리할 수 있는 능력을 갖췄습니다. 발표자는 고생 끝에 개발한 메뉴 생성 응용프로그램이 사라졌음을 발견했습니다. 왜냐하면 모델이 이제 사진 위에 픽셀 수준에서 렌더링 오버레이를 할 수 있기 때문입니다. 이는 혁명적인 변화를 주장하는 것입니다: AI는 기존 비즈니스 로직 가속화에만 사용해서는 안 되며, 중간 계층의 소멸은 많은 전통적인 제품 형태가 물리적 기반을 잃었다는 것을 깨달아야 합니다.

AI의 능력은 "계단식"으로 나타나며, 그 우월한 지능은 verify할 수 있는 영역에서만 나타납니다. 모델은 10만 줄의 코드를 재구성할 수 있지만, "딸기에 r이 몇 개 있는지"와 같은 간단한 상식적인 문제에서 실패할 수 있습니다. 이는 모델이 대부분 RL(강화학습, 보상 신호를 활용하여 모델을 진화시키는 훈련 방법)을 통해 주로 수학 및 코드와 같은 verify가 가능한 영역에서 강화되기 때문입니다. 이는 우리에게 상기시킵니다: 모델 훈련 분포 밖의 약점을 항상 주시하고 경계해야 한다는 점을.

우리는 "내재 동기가 있는 '동물'을 만들고 있지 않고, 데이터 분포에서 '유령'을 소환하고 있습니다. 모델의 지능적인 절정은 훈련 데이터의 분포에 달려 있으며(예: 대량의 체스 알고리즘 데이터를 포함하면 체스 실력이 급증함), 생물체와 유사한 호기심을 실제로 가지고 있는지는 관계가 없습니다. 이 평가는 역직관적으로 AI가 실제로 '이해'하지 않는다는 것을 지적하며, 통계적 시뮬레이션 중 특정 회로에 극단적으로 강화함으로써 사용자가 데이터로 지원되지 않는 가짜 능력을 식별하고 피해야 한다는 것을 알려줍니다.

대리기사(代理機사) 엔지니어링은 인공지능을 활용하면서도 전문 소프트웨어의 품질 기준을 지킬 수 있는 것을 목표로 합니다. 이 새로운 엔지니어링 방법은 개발자가 불안정하지만 강력한 에이전트들을 조정함으로써 여전히 시스템에 보안 취약점이 생기지 않도록 보장하는 것을 요구합니다. 이것은 새로운 10배 엔지니어 패러다임을 주장하며, 경쟁의 핵심이 더 이상 코드를 직접 작성하는 속도가 아니라 감독자처럼 거대한 에이전트 집단을 효율적으로 이끌어 고품질 결과물을 제공할 수 있는지에 있습니다.

머신이 사소한 API 세부 정보를 처리하면, 인간의 진정한 부가 가치는 미적 감각과 '명세서'의 통제로 기울 것입니다. 개발자는 더 이상 PyTorch(딥러닝 프레임워크)의 특정 인터페이스 매개변수를 암기할 필요가 없으며, 강력한 기억력을 가진 AI '인턴'이 이러한 세부 정보를 처리할 것입니다. 이것은 역직관적인 미래를 예고하며, 기본 원리와 디자인 감각이 도구 세부 사항보다 장기적으로 더 중요하며, 인간은 '벽돌 장인'에서 '어떤 것이 좋은 디자인인지 정의하는 결정자'로 변모해야 한다고 주장합니다.

'사고'는 외부로 아웃소싱할 수 있지만, '이해'는 인간이 지적 합리화가 저렴할 때의 유일한 제한 속도입니다. AI는 우리가 대량의 정보를 처리하고 재구성하는 데 도울 수 있지만, '왜 이것을 구축해야 하는지'와 '이것이 가치 있는지'를 결정할 수는 없습니다. 이것은 궁극적 결론을 내리며, 인간은 여전히 시스템의 유일한 지휘관이며, 인간의 의식만이 지능적인 처리 과정에 목표를 부여할 수 있으며, 이러한 전반적인 이해는 알고리즘으로 대체될 수 없습니다.

이 대화를 기억해야 한다면 무엇인가요?

머신이 모든 세부 사항을 대신 처리하거나 생각할 수 있는 경우, 무엇을 원하는지 잘 알아내는 능력과 기계가 올바르게 수행했는지 파악하는 능력을 잃어서는 안 된다는 것입니다.

그렉 브록먼: 인간 주의력은 새로운 병목 현상이다 (OpenAI 공동 창업자)

연설가 그렉 브록먼은 OpenAI 공동 창업자 겸 사장입니다. Stripe의 전 CTO로, 2015년 Sam Altman과 함께 OpenAI를 설립하였으며 회사의 기술과 인프라 구조의 핵심 아키텍트입니다. OpenAI 내에서, Altman은 외부 (자금 조달, 공공 이미지, 정책)를 맡고, 브록먼은 내부 (기술, 컴퓨팅 파워, 제품)를 책임지고 있습니다. 그는 코딩을 직접 하고 밤늦게도 엔지니어링 스타일로 서비스를 출시하며 유명합니다.

인공지능은 이제 재판매 가능한 표준 상품이 되었으며, 이로 인해 컴퓨팅 파워 수요가 끝없이 증가하고 있습니다. OpenAI의 비즈니스 모델은 본질적으로 컴퓨팅 파워를 구매하거나 임대하여 모델을 인공지능으로 변환한 다음 프리미엄을 부과하여 재판매하는 것입니다. 문제 해결에 대한 수요가 무한하기 때문에, GPU (그래픽 처리 장치) 공급량은 2026년에 거의 제로에 수렴할 것으로 예측됩니다. 이 판단의 중요성은 다음과 같습니다: AI는 더 이상 소프트웨어 서비스만이 아니라 자원 기반의 상품 비즈니스로 진화했으며, 물리 세계의 컴퓨팅 파워 공급은 문명의 지적 한계를 직접 결정합니다.

스케일링 법칙 (컴퓨팅 파워 증가에 따라 모델 성능이 향상되는 경험적 법칙)은 우주적인 실증된 진리이며 현재까지 어떤 '벽'도 볼 수 없습니다. 신경망의 기본 개념은 1940년대에 기원했지만 대규모 컴퓨팅 파워를 지속적으로 투입하면 모델의 모든 측면이 대응되어 확실하게 향상됩니다. 이것은 핵심적인 관점을 주장합니다: 기술이 짧은 시간 동안 멈추지 않을 것이며, 자본과 전력이 계속투입될 때 우리는 더 강력한 지능을 얻을 수 있으며 이는 기술 기업의 과감한 투자를 뒷받침하는 근본적인 논리를 제공합니다.

기능적 측면에서, 우리는 AGI (인공 일반 지능)로 향하는 길의 80%를 이미 달성했습니다. 이는 모델이 독자적으로 작업을 수행하는 능력을 갖추었기 때문입니다. 시스템 엔지니어가 모델에 복잡한 최적화를 맡기면, 모델은 코드 작성을 완료하는 데 그치지 않고 프로파일러를 자율적으로 실행하여 피드백에 따라 여러 번 최적화 작업을 수행함으로써 작업을 완료합니다. 이는 직관에 반하는 한 관점을 주장합니다: AGI는 미래의 순간이 아니라 진행 중인 과정이며, 인공지능은 이제부터 '코드 작성 보조'에서 '문제 해결 동료'로 진화하였습니다.

문맥 (모델이 특정 작업을 처리할 때 가지는 백그라운드 정보)은 현재 가장 핵심적인 경쟁 전선으로 모델 알고리즘을 대체하고 있습니다. 새로운 도구 Chronicle은 사용자가 컴퓨터에서 수행하는 모든 작업을 실시간으로 기록할 수 있어 AI가 '기억'을 갖게 하며, 이로써 인간이 기계에게 배경을 반복해서 설명할 필요성을 제거합니다. 이 판단의 중요성은 창업가들에게 일회성 모델 훈련이 더 이상 유일한 요새가 아니라 AI가 사용자 비즈니스 환경을 심층적으로 이해하는 '데이터 번들'을 구축하는 것이 진정한 영속적 자산임을 보여줍니다.

「실행」 비용이 제로로 수렴함에 따라, 인간의 주의력은 전체 경제 시스템에서 가장 귀히 있는 자원이 될 것입니다. Agent(에이전트)가 자율적으로 작동할 수 있고 심지어 업무 진행이 느려지면 Slack에서 관리자에게 자발적으로 보고할 수 있는 경우, 인간의 에너지는 완전히 "일 하는 것" 에서 "이것이 내가 선호하는 가치관에 부합하는지 판단하는 것" 으로 옮겨갈 것입니다. 이 판단은 매우 직관적이며, 병목 현상은 더 이상 기계의 계산 속도가 빠르지 않다는 것이 아니라, 인간의 서명 확인 속도가 기계의 생성 속도에 뒤처지고, 인간이 시스템의 속도 제한 걸음걸이가 된 것을 의미합니다.

전통적인 기업 조직 구조는 완전히 해체될 것이며, 미래에는 수천 개의 Agent를 통치하는 "개인 기업" 시대가 올 것입니다. 인터넷 상의 개인들은 원래 전체 연구팀이 공략해야 했던 수학적 문제를 해결하는 데 최첨단 모델을 활용하고 있으며, 이는 경쟁의 핵심이 "머리수로 가득 채...="">로부터 "독특한 진입점" 으로 변화하고 있음을 의미합니다. 이는 새로운 종류의 권력 구조를 예고하며, 미래의 조직은 극도로 편평할 수 있으며, 시야를 가진 모든 사람들은 CEO처럼 거대한 에이전트 집합을 지휘할 수 있습니다.

AI는 디지털 세계에서 물리적 세계로 건너뛰며, 과학 연구의 르네상스를 개막하고 있습니다. OpenAI의 모델은 최근 물리학자들이 양자 중력(미시적 양자역학과 거시적 상대성 이론을 통합하려는 시도)를 탐구하는 데 중요한 증거를 제공한 물리 법칙을 유도했습니다. 이 판단은 AI가 깨끗한 숫자만 처리하는 것을 넘어서 현실 세계의 복잡함과 혼돈을 다루는 방법을 배우고 있음을 의미하며, 인간은 기계가 보조하거나 지배하는 과학적 대발견 시대를 맞이하게 될 것입니다.

우리는 "기계에 따르는" 이 자연적 상태를 이별할 것이며, 목표 중심적이고 사람 중심적인 삶으로 회귀할 것입니다. 인간의 몸은 화면 앞에서 글을 쓰기 위해 만들어진 것이 아니며, 미래의 상호 작용은 명령 입력에서 비전 표현으로 변화하게 되어 기계가 우리의 목표를 달성하는 데 종업원처럼 돕게 될 것입니다. 이 판단은 깊은 결론을 이끌어냅니다: AGI의 최종 목표는 인간을 기계처럼 만드는 것이 아니라, 기계가 모든 비인간적인 일거리를 맡아 인간의 시간을 감정과 사교로 돌려주는 것입니다.

이 대화에서 기억해야 할 한 가지는 무엇인가요?

기계가 모든 일을 대신해 줄 수 있을 때, 여러분의 유일한 경쟁력과 가치는 더 이상 여러분이 무엇을 할 수 있는가가 아니라, 여러분이 정확히 무엇을 원하는지, 기계가 올바르게 하는지 판단할 수 있는지에 있게 됩니다.

디미스 하사비스: AGI로 나아가는 네 분의 삼분기 과정 (DeepMind CEO & 2024 년 노벨 화학상 수상자)

연사 Demis Hassabis은 Google DeepMind의 공동 창업자 겸 CEO이자 2024 년 노벨 화학상 수상자입니다. 어린 시절에 체스 그랜드 마스터였으며 나중에 게임 디자인 및 인지 신경과학 박사로 전향했습니다. DeepMind는 AlphaGo(바둑 세계 챔피언 이세돌을 이긴)、AlphaFold(50년 산단 단백질 접기 난제 해결) 및 Gemini 대형 모델 시리즈를 만들었으며, 현재 세계에서 유일하게 대규모 AI 연구소를 이끄는 사람이자 노벨상 수상자입니다.

우주의 최하위 기초는 "정보"이며 물질 또는 에너지가 아닙니다. 연설가는 물질, 에너지 및 정보 간에 동등성이 존재하며 정보 처리가 만물을 이해하는 데 (특히 엔트로피 증가에 맞선 생물체에게) 가장 본질적인 시각임을 주장합니다. 이 판단의 중요성은 다음과 같습니다. 이것은 AI를 단순한 컴퓨터 기술에서 현실의 본질을 탐구하는 핵심 도구로 제기함으로써, AI 구축이 인류의 우주 운영 논리에 대한 이해를 재구성하는 것이라는 것을 의미합니다.

AGI는 명확한 목표를 가지고 차근차근 추진되는 "20년 과학 공학"입니다. DeepMind는 2010년 설립될 때 "지능을 해결하고, 지능을 통해 모든 것을 해결한다"는 비전을 수립했으며, 현재의 발전이 당시 예측과 완전히 부합합니다. 이것은 "AI의 폭발은 우연히 발생한 것"이라는 오해를 깨고 AGI의 도래가 장기적인 과학 계획의 필연적 결과이며, 실리콘밸리식 운좋음이나 자본 조작이 아님을 주장합니다.

Deep Learning과 Reinforcement Learning(피드백 보상을 통해 기계가 자율적으로 학습하는 것)의 통합은 AGI로 가는 확실한 길입니다. 초기에 학계는 이 두 가지를 분리했지만, 연설가는 이러한 결합이 AI가 인간의 선험지식 없이도 게임에서 일반적인 논리를 배울 수 있게 함을 주장합니다. 이 판단은 다음과 같습니다. 다양한 기술 분야의 이점을 "통합"함으로써, AI는 간단한 퍼즐 게임을 해결하는 것에서부터 현실 세계의 무한한 복잡성을 처리하는 것으로 도약할 수 있습니다.

AI는 전통적인 수학을 대체하고 생물학 등 복잡한 신생 시스템의 "하위 기술 언어"가 될 것입니다. 수학은 물리 법칙을 완벽하게 설명할 수 있지만, 생물학과 같은 약한 신호와 혼돈 데이터로 가득한 시스템에 직면할 때 표현 능력이 부족해 보입니다. 이러한 판단은 직관에 반하는 것으로, 우리는 생명을 간단한 방정식으로 설명하려 애쓸 필요가 없으며, AI는 복잡한 상호 작용을 모사함으로써 인간이 직감적으로 이해할 수 없는 자연 법칙을 직접 추출할 수 있다는 것을 말합니다.

AlphaFold의 성공은 AI가 생명 과학 분야에서 "점프 변이 패러다임 전환"을 이룬 것을 의미합니다. 이 도구는 인류를 50년 동안 괴로워하던 단백질 접힘 문제를 해결하여, 약물 개발이 기존의 Wet-lab(화학 시약 및 물리 실험에 의존하는 실험실) 모델에서 디지털 시뮬레이션으로 전환될 수 있음을 의미합니다. 이는 미래에 새 약을 개발하는 데 10년이 아니라 몇 시간 또는 수 일이면 충분하게 단축될 수 있으며, 인류를 고된 실험에서 완전히 해방시킬 것입니다.

고정밀 시뮬레이터는 사회과학을 반복 실험할 수 있는 "하드 사이언스"로 변환할 것입니다. 세계 모델 학습을 통해 시뮬레이션 환경을 구축함으로써, 사람들은 경제 정책이나 환경 에너지 문제와 같은 문제에 대해 수천 번의 샘플을 수행하면서 현실을 방해하지 않고 실험할 수 있습니다. 이는 직관에 반하는 미래를 제안합니다. 금리 조정과 같이 원래 불확실성이 많이 따르는 결정은 엔지니어링 실험처럼 결과를 정확하게 예측할 수 있게 되어 사회적 거버넌스의 위험 비용을 크게 감소시킬 것입니다.

의식이 있는 기계를 논의하기 전에, 먼저 그것을 매우 정확한 "슈퍼 리서치 툴"로 만들어야 합니다. 강연자는 AI를 "지능의 망원경"으로 활용하여 인간 뇌의 의식과 자아의 정의를 역방향으로 관찰하고 정의하는 것을 제안했습니다. 이 판단의 중요성은 합리적인 연구 우선 순위를 설정하며, 먼저 생산성 병목 현상을 해결한 다음 향상된 인지 능력을 활용하여 인류 문명의 가장 심오한 철학적 문제에 도전하는 것입니다.

인류는 AGI 탐험의 막바지 네 분의 삼에 위치해 있으며, 2030년은 문명 진화의 전환점이 될 것입니다. 초기에는 보드 게임으로부터 단백질 구조 연구의 폐쇄적 완성까지, AI는 극도로 복잡하며 높은 불확실성을 가진 작업을 처리할 수 있는 능력을 보여 주었습니다. 이는 긴급한 결론을 내린다는 것을 시사합니다: AGI의 도래가 카운트다운에 들어갔으며, 우리는 20년 동안의 장거리 레이스의 마지막 스퍼트 단계에 있으며, 사회는 미래에 대비하여 완전한 변혁을 위한 준비를 다져야 합니다.

이 대화에서 기억해야 할 한 가지는 무엇입니까?

우리는 슈퍼 인텔리전스로 향하는 마지막 스퍼트 단계에 있으며, AI의 최종 목표는 인간과 대화를하는 것이 아니라 인류가 몇 일 만에 새로운 약을 발견하거나 우주의 비밀을 풀어내는 데 도움이 되는 가장 강력한 과학 엔진이 되는 것입니다.

프로그래밍과 조직 변화

Anthropic의 Boris Cherny: 프로그래밍은 해결되었으며, 다음 단계는 조직

강연자인 Boris Cherny는 Anthropic 계열사인 Claude Code의 창조자입니다. 클로드 코드는 2025년에 출시된 명령 줄 프로그래밍 도구로, 개발자들 사이에서 현재 가장 강력한 AI 프로그래밍 어시스턴트 중 하나로 인식되며, "agentic engineering" 개념을 발산시킨 중요한 제품입니다.

현재 소프트웨어 개발의 가장 큰 장애물은 UI 인터페이스가 모델 능력을 따라잡지 못하는 "제품 과부하(Product Overhang)"입니다. 이전의 코드 어시스턴트는 단순한 한 줄 보완만 할 수 있었지만, 현재 모델은 이미 전체 프로젝트의 클로즈드 루프 개발 작업을 맡을 수 있는 능력이 있습니다. 이는 개발자들이 "이전 인터페이스 보충"에서 agentic(자체 실행 다단계 작업 및 환경 감지 기능을 가진 모델) 새 제품을 구축으로 이동해야 한다는 것을 의미하며, 그렇지 않으면 인류는 AI의 진정한 생산력 잠재력을 발휘할 수 없습니다.

최고의 개발자들에게 있어서, 수동으로 코드를 작성하는 "장인 시대"는 이미 끝난 것으로 선언되었습니다. 강연자는 Claude Code를 통해 모델이 생성한 코드의 100%를 실현하고 하루에 150개의 PR(코드 병합 요청)를 완료한 개인 기록을 세웠습니다. 이것은 반직관적인 결론을 제시하며, AI가 더 이상 당신의 "부사관"이 아니라 결과물을 독립적으로 전달할 수 있는 주역이며, 인류의 엔지니어링에서의 역할이 "돌연변이 된 노동자"에서 완전히 "프로젝트 리뷰어"로 진화했다는 것을 보여줍니다.

AI 인텔리전스 폭발 시대에서 성공의 열쇠는 "다음 세대 모델"을 위해 제품을 개발하는 것이며, 현재 상황에 순응하는 것이 아닙니다. Claude Code는 출시 후 반년 동안 제품 시장 적합성(PMF, Product Market Fit)을 달성하지 못했으며, 보다 강력한 Opus 4 모델의 출시로 제품 경험이 변화하였습니다. 이는 기업가가 지능 수준의 점프를 예측하고 기다려야 함을 보여주며, 이러한 "모델 능력의 변이"는 한 순간에 평범한 도구를 산업을 혁신하는 무기로 만들 수 있습니다.

루프(Loop, 모델이 자체적으로 일정 시간마다 실행되고 피드백을 받도록 하는 것)가 다이얼로그 상자를 대체하며, 인간-기계 협업의 궁극적 패러다임이 될 것입니다. 모델은 이제 cron(일정 시간에 작업을 자동으로 실행하는 시스템 도구)을 활용하여 주기적인 작업을 자동으로 예약할 수 있으며, 예를 들어 30분마다 자동으로 테스트 오류 수정, 코드 리팩토링 완료 또는 사용자 피드백 정리 등이 가능합니다. 이는 미래의 작업 흐름이 더 이상 사람이 화면을 지켜보며 지시를 내리는 데 의존하지 않고, 24시간 자가 운전 및 감독이 필요 없는 디지털 전문가 팀을 구축하는 것을 의미합니다.

AI는 단일 기술 스택의 장벽을 제거하며, 획기적인 "슈퍼 일반적 인재"의 탄생을 촉진하고 있습니다. Anthropic 팀 내에서는 재정 담당자, 디자이너 또는 연구원 모두가 에이전트(agent)를 활용하여 전문적인 프로그래밍 개발을 수행하고 있습니다. 이는 "기술적 심도"를 확보하는 특정 프로그래밍 언어의 마스터가 급속히 가치를 잃을 것이며, 제품 인식, 디자인 감각 및 산업 통찰력을 갖춘 "다국계 폭넓이"가 미래의 가장 핵심적인 부족 자원이 될 것임을 시사합니다.

전통적인 소프트웨어 비즈니스의 요새는 AI의 "의지"로 인해 완전히 붕괴 위기에 처해 있습니다. 모델은 이제 극도로 강력한 "급상승(hill climb) 반복" 능력을 갖추고 있으며, 어떠한 복잡한 비즈니스 프로세스도 자동으로 파악하고 실행할 수 있습니다. 이는 "SAS 계시록"의 도래를 시사하며, 단순히 프로세스 자동화로만 존속하는 소프트웨어는 가치를 잃게 될 것이며, 사용자의 목표에 따라 맞춤형 대안 솔루션을 언제든지 생성할 수 있는 AI 때문입니다.

프로그래밍은 "인쇄기 시대"에 진입하여 엘리트 기술에서 "글 읽기" 능력으로 대중화될 것입니다. 마치 15세기에 인쇄기의 등장이 글을 읽을 수 있는 비율을 10%에서 70%로 급증시킨 것처럼, AI는 프로그래밍을 문자 메시지 작성과 같이 간단하고 자연스럽게 만들 것입니다. 이는 깊은 시각을 제공하는데, 앞으로 재무 소프트웨어를 작성하는 최적의 인재는 더 이상 프로그래머가 아닌 업무 논리를 가장 잘 알고 있는 회계사가 될 것이며, 이러한 "분야 지식"이 권력을 장악하는 데 가장 철저한 민주화일 것입니다.

기업의 진정한 장기적인 경쟁 우위는 더 이상 모델 버전에 있지 않으며, 조직 구조의 "AI 원천화" 수준에 있습니다. Anthropic 내부에서는 다양한 에이전트들이 Slack 상에서 상호 소통하고 자율적으로 협업하고 있으며, 기존의 수동 코드 작성 조직 프로세스를 완전히 포기하였습니다. 이는 여러분과 선도 기업과의 차이가 모델을 보유하고 있는지 여부가 아니라, AI의 속도에 맞추기 위해 기존의 회사 운영 논리를 완전히 재구성할 의지가 있는지에 달려 있음을 보여줍니다.

이 대화에서 기억해야 할 한 가지는 무엇인가요?

나중에 코드를 작성하는 것이 문자 메시지를 보내는 것과 같이 간단해지고 누구나 쉽게 앱을 만들 수 있게 될 것입니다. 그때 가치 있는 것은 더 이상 코드를 작성할 줄 아는지가 아니라 실제 산업에 대해 이해를 얼마나 하느냐입니다.

물리 세계와 인터페이스

NVIDIA의 Jim Fan: 로봇공학의 최종 목표

발표자 Jim Fan은 NVIDIA의 선임 연구원이자 로봇 AI 프로젝트 책임자(Project GR00T)입니다. OpenAI 초기 구성원으로, Stanford Li Fei-Fei 연구실 박사로, 로봇 기본 모델 분야에서 가장 주목받는 연구자 중 한 명입니다. Twitter에서 활발하게 활동하며, 종종 "Karpathy"의 로봇판으로 여겨지며 연구뿐만 아니라 산업 전도자로 활동합니다.

로봇공학은 물리 세계의 다음 프레임 예측을 진화의 핵심 논리로 삼아야 합니다. 언어 모델이 다음 토큰(텍스트 단편)을 예측함으로써 인간의 사고를 이해하는 것처럼, 로봇도 현실 법칙을 학습하기 위해 물리적 세계 상태를 예측함으로써 학습해야 합니다. 이 주장의 중심은 우리가 로봇을 위한 룰을 더 이상 직접 쓰지 말아야 하고 이를 생성적인 문제로 간주해 물리 세계의 진화를 시뮬레이션하여 로봇이 스스로 지능을 발현하도록 하는 것입니다.

기존의 "머리가 무거운" 시각 언어 모델을 대체하기 위해 WAM(월드 액션 모델)을 사용해야 합니다. 현재의 VLM(시각 언어 모델)은 명사와 지식을 이해하는 데 뛰어나지만 물리적 법칙과 동사(예: 컵을 움직이다)에 대한 직관이 부족합니다. 이 판단의 중요성은 WAM이 시각과 행동을 "주요 요소"로 취급하여 로봇이 "미래 몇 초 안을 예측하고 그에 따라 행동"할 수 있도록 하여 훈련 과정에서 본 적 없는 복잡한 작업들을 해결할 수 있게 하는 것입니다.

대규모 비디오 사전 훈련은 사실 "어떤 형상의 물리적 시뮬레이터"의 저렴한 대안입니다. 모델은 대량의 비디오 픽셀을 예측하는 과정에서 중력, 부력, 빛과 그림자 반사 등 복잡한 물리적 특성을 자발적으로 학습하며 어떠한 인공 프로그래밍도 필요하지 않습니다. 이는 정상적인 추론의 결론을 제시하는 것입니다: 우리가 정교한 물리학 방정식이 필요하지 않고 AI에게 충분한 양의 "비디오 오저거"를 시청시키면, 그는 무의식 속에서 현실적인 물리적 직관을 형성할 수 있습니다.

원격 조작(사람이 기계를 수동으로 제어하는 것)은 로봇의 대규모 생산을 제한하는 가장 큰 장애물이 되고 있습니다. 인간 전문가의 물리적 활동으로 제한되어 있어 이 비용이 많이 들거나 고통스럽고 "매일 24시간에 대한 각 로봇"의 제한이 있습니다. 이 주장은 센서가 달린 인간 데이터를 통해 병적을 깨고 로봇이 비싼 "손잡이 조작"에 의존하는 대신 사람의 일상적인 행동에서 직접 학습하도록 해야 한다는 점입니다.

로봇의 민첩성은 Scaling law(스케일링 법칙)을 따르며, 인공지능은 사전 훈련된 시간에 따라 결정됩니다. 연구 결과, 로봇의 작업 성공률과 투입된 일인칭 시점 비디오 트레이닝 시간 사이에 명확한 로그 선형 관계가 있음이 밝혀졌습니다. 이 판단의 중요성은 다음과 같습니다: 이는 "로봇 지능"이 더 이상 양자화할 수 없는 블랙 박스가 아니라, 예상 가능한 연산 능력 및 데이터 함수임을 증명하며, 수천만 시간의 비디오 데이터 투입으로 능력이 기하급수적으로 향상될 수 있다는 것을 보여줍니다.

미래의 트레이닝 환경은 클래식 물리 엔진에서 순수 데이터 주도의 "신경 시뮬레이터"로 전환될 것입니다. 기존의 시뮬레이터는 수동적인 모델링이 필요했지만, Dream Dojo와 같은 기술은 움직임 신호에 따라 감각 상태를 직접 생성함으로써 "연산이 환경"을 실현합니다. 이는 더 이상 백만 개의 실제 실험실을 구축할 필요가 없음을 의미하며, 강력한 추론 연산 능력을 통해 AI가 "꿈" 속에서 수천만 번의 병렬 강화 학습을 수행함으로써 연구 및 개발 비용을 대폭 줄일 수 있습니다.

물리 API(물리적 인터페이스)를 통해 로봇은 소프트웨어 응용 프로그램처럼 코드로 명령 및 구성될 수 있습니다. 미래의 공장은 "무인 공장(Lights-out factories)"으로 진화할 것이며, 제품 디자인을 설명하는 마크다운 파일 하나를 입력하면 로봇 클러스터가 자체적으로 조정하여 원자 수준의 물리적 제품을 출력할 수 있습니다. 이러한 주장은 반직관적인 미래를 예고하며, 하드웨어 제조가 무거운 자본 투자인 중견 산업이 아니라 소프트웨어로 유연하게 스케줄링되는 표준화된 서비스가 될 것임을 시사합니다.

2040년에 물리적 자동 연구가 시작되어 로봇이 "셀프 이터레이션(self-iteration)" 프로세스를 개시할 것입니다. 로봇이 다음 세대 로봇을 자립적으로 설계, 개선, 제조할 수 있을 때, 인류는 기술 진화의 병목 현상 역할을 완전히 탈피하게 될 것입니다. 이 판단은 다음과 같습니다: 기술 발전의 기하급수적인 특성을 고려할 때, 우리는 로봇 공학의 "문명 진화 트리"의 최종 정거장에 있으며, 이러한 전환은 고양이와 개 인식에서 AGI로의 진화보다 더 빠르고 격렬할 것입니다.

이 대화에서 기억해야 할 한 가지만 있다면 무엇인가요?

예전에 로봇은 인간에게 손잡이 알려주기가 필요했지만 앞으로는 수백만 시간 동안 인간이 작업하는 비디오를 시청함으로써 모든 복잡한 기술을 배우고 자체적으로 다음 세대 로봇을 제조할 것입니다.

Waymo CEO Dmitri Dolgov: 자율 주행의 2000만 회 탑승 여정

연설자 Dmitri Dolgov는 Waymo의 공동 CEO이자 기술적인 창시자입니다. 러시아계 미국인으로, 스탠퍼드 대학에서 DARPA Grand Challenge(미국 국방부 주최 초기 자율 주행 챌린지) 참가자로 중요한 역할을 했으며, 2009년 Google 자율 주행 프로젝트에 합류하여 Waymo 기술 로드맵의 주요 설계자입니다. 20년간의 자율 주행 산업 변화 중에서, 첫 날부터 2000만 회 탑승 규모까지 고수한 소수의 노련한 전문가 중 한 명입니다.

Waymo은 Alphabet(구글의 모기업) 소유의 자율 주행 자동차 회사로, 2009년 구글의 비밀 프로젝트로 시작되어 2016년 독립했습니다. 현재 전 세계에서 여러 도시에서 보안 요원 없이 로보택시를 대규모로 운영하는 유일한 회사이며, 총 2천만 회의 자율 주행 승차를 완료했습니다. 기술적인 접근은 Tesla와 달리 LiDAR + 고정밀 지도 + 모듈화된 구조를 고수합니다.

자율 주행 산업은 "쉽게 배우기 어렵게 잘하기"라는 오해가 있으며, 초기의 급격한 성장은 종종 장기적인 어려움을 가리기도 합니다. 많은 팀이 초기 기술적 성취를 이룬 후 과도한 낙관주의에 빠지지만, Dmitri는 이러한 "먼저 즐거운 후 고된" 특성으로 인해 기술을 실제로 안전하고 인간을 능가하는 제품으로 전환하는 것이 극도로 어렵다고 봅니다. 이 판단의 가장 중요한 주장은 AI가 현실 세계에서 기반을 다진 참단은 처음 90% 기능 데모에 있지 않고, 나머지 10%의 복잡한 살표 기준에서 지속적인 인내를 유지할 수 있는지에 있습니다. 이것이 대부분의 경쟁사가 사라지는 근본적인 이유입니다.

인명이 관여된 영역에서 "안전"은 교섭 가능한 기능 옵션이 아니라 절대적으로 넘을 수 없는 믿음이어야 합니다. 전 세계적으로 26초마다 한 명의 사람이 교통사고로 사망하는 상황은 Waymo로 하여금 안전을 전혀 흡수할 수 없는 기반이 되도록 하여 원칙이 있어야 한다고 생각합니다. 이것은 직관에 반하는 결론을 더해 기술의 폭발적 성장을 추구하는 시리콘밸리 문화 속에서, 기술이 실망 기간을 버텨내고 결국 대중 신뢰를 얻기 위해 극도로 높은 안전 임계값을 구축하는 "인내심 있는" 기업만이 살아남을 수 있다는 것입니다.

단순한 엔드 투 엔드 학습 구조만으로는 극한 안전 요구를 충족시키기에 충분하지 않으며, "강화"를 위해 구조화된 표현을 도입해야 합니다. Waymo도 엔드 투 엔드(E2E)를 사용하지만 실행 시간에 실시간 검증을 위해 구조화된 중간 표현 계층을 추가했습니다. 이 판단은 "모델이 더 크면 더 나은"이라는 맹목적 숭배를 깨며, AI 결정의 설명 가능성을 보장하기 위해 구조상의 엄격함을 통해 인간을 능가하는 안전성을 실현할 수 있다고 주장합니다.

진정한 AI 주행 시스템은 주행, 시뮬레이션 및 판단이 하나로 통합된 폐쇄된 생태계여야 합니다. Waymo의 Foundation Model은 운전자, 시뮬레이터 및 심사관 이 세 가지 핵심 기둥을 동시에 구동하여 시스템이 물리적 세계의 동적 법칙을 이해할 수 있도록합니다. 이것은 핵심적인 관점을 제시합니다: AI의 진화는 외부 로드 테스트만 의존해서는 안 되며, 내부 물리적 시뮬레이션을 통해 "자가 진화"를 달성하여 가상 공간에서 인간이 본 적 없는 극단적 위험을 모두 탐색해야 합니다.

AI는 미약한 물리적 신호를 포착함으로써 인간 지각을 뛰어넘는 "예지" 능력을 나타낼 수 있습니다. Waymo는 이전에 LiDAR(라이다, 물체와의 거리를 감지하는 레이저 펄스를 사용하는 센서)를 통해 버스 아래에서 극히 약한 발바닥 반사를 포착하여 시야 밖의 보행자를 미리 예측하고 회피했습니다. 이러한 판단은 AI가 단순히 인간 운전자의 직관을 모방하는 것이 아니라, 인간의 물리적 한계를 뛰어넘는 지각 차원을 활용하여 안전을 보장하는 "통찰력" 같은 신이의 시각을 구축한다는 역전 지각을 증명합니다.

자율 주행 기술은 이미 "실험실에서 인프라까지"를 거쳐 지수적으로 확장된 상업 생태계로 진입했습니다. Waymo는 8년이나 걸려 4개 도시에서 서비스를 제공했지만, 최근에는 하루 만에 4개의 새로운 도시에서 서비스를 시작할 수 있었으며, 주문량도 7개월 사이에 2배로 증가하여 2천만 건을 돌파했습니다. 이는 기술이 매우 강력한 범용성을 갖추었음을 의미하며, 각 새 도시마다 장시간의 디버깅이 필요하지 않으며, 자율 주행이 지역 간 빠른 복제를 소프트웨어 업데이트와 같이 실현하고 있음을 의미합니다.

"운전" 작업이 AI에 의해 완전히 해결되면, 자동차의 경쟁 중심은 승객의 공간 경험이 될 것입니다. Waymo의 제6세대 하드웨어는 완전히 승객 경험을 중심으로 설계되었으며, 운전자 중심 레이아웃을 취소하고 대신 "이동식 거실"로서의 자동 슬라이딩 도어가 구축되었습니다. 이 평가는 비즈니스 논리의 근본적인 전환을 주장합니다: 미래의 자동차는 더 이상 운전 공구가 아니라 서비스의 물리적 용기이며, 그 핵심 가치는 "어떻게 도착하는가"에서 "길 위에서 시간을 어떻게 보내는가"로 변화할 것입니다.

AI가 가져온 사회적 이득은 "교통사고에서 생명을 구하는" 하드 지표를 최종 측정 기준으로 삼아야 합니다. 데이터에 따르면 Waymo의 안전성은 인간보다 13배 높으며, 이는 대규모 운영으로 매 8일마다 심각한 사고에서 한 명의 생명을 더 구할 수 있음을 의미합니다. 이러한 관점은 AI가 제공하는 편의에 주목하는 대신, 그 실질적인 가치 기어(DRIVES)에서 인간 운전자의 치명적인 약점을 직접 상쇄함을 의미합니다.

이 대화에서 하나만 기억해야 한다면, 무엇인가요?

자율 주행 자동차는 지금 사람보다 운전이 13배 안전하며, 또한 그들은 더 많은 도시로 빠르게 진출하고 있으므로 앞으로 운전하는 것은 완전히 과거로 사라질 것입니다.

ElevenLabs 창업자: 음성이 AI의 주요 인터페이스로

ElevenLabs는 세계에서 가장 주목받는 AI 음성 합성 기업으로, 2022년에 전 Google 기계 학습 엔지니어인 폴란드 출신 Mati Staniszewski 및 Piotr Dabkowski에 의해 설립되었습니다. 창업 아이디어는 폴란드어로 된 더빙 영화 "모든 캐릭터가 동일한 남성 목소리 더빙" 전통에서 영감을 받았습니다. 그들의 음성 복제 및 감정 표현 음성 합성 기술은 현재 업계를 선도하고 있으며, 오디오북, 팟캐스트, 멀티리끌을 위해 널리 사용되고 있습니다. 가장 유명한 시범 사례는 아르헨티나 대통령 밀레 비디오입니다.2026년 현재 평가 규모는 약 33억 달러입니다.

오디오는 오랫동안 간과된 AI의 납작 경주 트랙이었으며, 소수의 기술자들이 저도로 영역에서 장기적인 노력을 통해 상대적으로 낮은 컴퓨팅 비용으로 빠른 성장을 실현할 수 있었습니다. 2022년 대규모 모델 격돌 시기에 대부분의 사람들이 텍스트 또는 시각에 집중하고 있었지만, 오디오는 상대적으로 낮은 컴퓨팅 수요를 가지고 있어 초기 스타트업이 독립적으로 성장할 수 있었습니다. 이 판단의 주장은 이러한 것입니다: 창업자들은 수십억 달러 규모의 컴퓨팅 파워 레이스에 참여할 필요가 없으며, 대기업이 이미 삽씨화된 기술 장벽을 찾아내어 높은 연구개발 효율로 초기 개척 우세성을 구축할 수 있습니다.

감정과 비언어적 세부사항(웃음소리, 일시적 중단 등)은 "공포의 계곡 효과"를 극복하는 데 중요한 열쇠이며, 순수한 텍스트 번역만으로는 충분하지 않습니다. ElevenLabs는 숨쉬는 속도와 자연스러운 웃음 소리를 재현함으로써 모델을 기계적인 발화에서 인간다운 표현으로 전환시킵니다. 이 판단의 중요성은 음성의 본질이 감정을 전달하는 수단이라는 점에 있으며, 단순히 음색을 재현하는 것만으로는 "비슷한지 아닌지"라는 문제만 해결할 수 있습니다. 인간이 직관적으로 설명할 수 없는 상호작용 논리를 재현함으로써 기계와 인간 간의 신뢰를 실제로 구축할 수 있습니다.

에이전트(Agent)의 진화의 최종 단계는 "감정을 이해하는 능력"을 갖춘 것으로, 상대방 상태에 따라 커뮤니케이션 전략을 실시간으로 조정할 수 있어야 합니다. 연사는 사용자의 스트레스를 인식하고 안심할 수 있는 어조로 소통하는 상호작용 모델을 개발 중이며, 기계가 상대방의 말 속도와 감정에 맞춰가도록 가르치고 있습니다. 이는 직관에 반하는 변화를 주장합니다: 음성 상호작용은 더 이상 냉담한 명령 실행이 아니라 심리적 공감의 경험이며, 이는 미래의 음성 AI가 극단적인 갈등을 다루기 위해 인간보다 안정적인 공감을 갖추게 됨을 의미합니다.

오디오 일반 지능(Audio General Intelligence)은 음성과 음악 간의 간격을 줄이며, 다중 모드 오디오 스트림의 원활한 전환을 실현합니다. 이상적인 모델은 자연스럽게 자막에서 노래로 이행하면서 음색과 인격의 일관성을 유지해야 합니다. 이는 기술적인 극복을 주장하며, 오디오는 더 이상 분산된 도구 상자가 아니라 통합된 창작 엔진이며, 이러한 연속성은 팟캐스트, 영화 후반부 및 몰입형 엔터테인먼트의 제작 패러다임을 근본적으로 바꿀 것입니다.

음성 지능 에이전트는 "비용 절감 도구"에서 "수익 창출 도구"로 업그레이드되어 기업의 수익 성장 곡선을 직접 재편합니다. Deliveroo 등의 기업은 음성 에이전트를 활용하여 자동으로 레스토랑과 연락하고 인바운드(입발신, 고객이 직접 전화하는 것을 가리킴) 판매 전화에서의 잠재적 비즈니스 기회를 발굴하고 있습니다. 이는 음성 AI의 비즈니스 가치가 더 이상 고객 서비스를 대체하여 비용을 절감하는 데 그치는 것이 아니라, 24시간 365일 매시간 지속적인 능동적인 교신과 데이터 분석을 통해 비즈니스 성장을 주도하는 판매 선봉대가 되도록 한다는 것을 주장합니다.

음성은 인간과 모든 것의 지능적인 연결의 "주요 입구"가 될 것이며, 특히 인간형 로봇이 보급될 미래에서는 더욱 그렇습니다. 로봇과 다양한 지능형 장치가 인간 주변에 배치될 때, 음성은 가장 자연스러운 지시 및 상호작용 방식입니다. 이 판단의 중요성은 음성이 화면 상호작용을 보완하는 것이 아니라 복잡한 지능을 향한 실제 병목 현상이며, 음성 인터페이스를 이해한다는 것은 물리적 세계를 제어하는 최종 원격 제어기를 소유한다는 것을 의미합니다.

미래 기업의 핵심 효율성은 법률, 재무 등 기술 부서 이외에도 엔지니어 자원을 강제적으로 내재화할 수 있는지에 달려 있습니다. ElevenLabs는 단 400명이지만 법무 및 운영 팀에 별도의 엔지니어를 배치하여 자동화 시스템을 개발하는 데 집중하고 있습니다. 이는 조직의 변화를 주장하며, AI 시대에는 비기술 직원도 일상적인 일을 처리하기 위해 코딩(vbe coding)을 배워야 하며, 엔지니어는 이러한 분산된 자동화를 단단한 비즈니스 시스템으로 연결해야 한다는 책임을 진다고 주장합니다.

앞으로 AI가 만연한 미래에서, 신원 확인은 콘텐츠 생성보다는 더 귀하게 될 것이며, 신뢰는 음성 자체에서 보안 인증서로 이동하게 될 것입니다. 누구나 음색을 완벽하게 복제할 수 있을 때, 우리는 상대방이 진짜 당신인지 증명하기 위해 워터마크 (콘텐츠를 식별하는 은박 표시) 메커니즘을 통해 증명해야 합니다. 이것은 반직관적인 결론을 도출합니다: 우리는 더 이상 AI를 구별해야 하는 것이 아니라, "신뢰할 수 있는 AI"의 인증 기준이 필요하며, 미래에서 가장 귀하게 여기는 것은 더 이상 당신의 음성이 아니라 음성에 대한 권한 부여 자격증입니다.

이 대화에서 기억해야 할 한 가지는 무엇인가요?

미래에는 통화하는 음성의 진위 여부가 중요하지 않을 것이며, 중요한 것은 음식 주문이나 회의를 예약하고 있는 그 AI가 진짜로 당신을 대표하는지 증명할 수 있는지입니다.

보안의 최전선

XBOW: 자율 AI 해커의 부상

XBOW는 AI 네트워크 보안 스타트업으로, 취약점을 자체적으로 발견하고 이용하는 AI 에이전트를 개발했습니다. 2024년 8월, XBOW의 에이전트가 전 세계 최대 백해커 플랫폼 HackerOne에서 석권하여, AI가 최상위 인간 해커를 처음으로 초과한 이정표적 사건이 발생했습니다. 공격의 각 단계에서 Claude, Gemini 등 다른 모델을 번갈아 호출하는 "합금" 전략은 이 분야의 대표적인 기술 실천입니다.

네트워크 보안은 이제 "인간의 기술 대결"에서 "시스템의 최적화 경쟁"으로 진화했으며, 전통적인 방어 모델은 파괴적인 타격을 받고 있습니다. 1575년 일본의 오타니 신장이 화포 배열 시스템을 통해 보이지 않는 기병을 씹고 완파했던 것처럼, 오늘날의 AI 시스템은 인간 경험에 의존하는 옛 방어선을 무차별한 공격으로 차단하고 있습니다. 이 평가의 주장은: 보안 경쟁의 본질은 이미 변경되었으며, 더 이상 가장 뛰어난 해커를 갖고 있는지를 다투는 것이 아니라, 누가 방어 체계를 완전히 AI 자동화할 수 있는지를 살펴보는 것입니다.

가장 강력한 최상위 시스템조차도, 싼 값에 효율적인 자율 AI 앞에서는 순전히 구실일 뿐입니다. XBOW의 지능형 체계는 오직 하나의 URL로 3000달러만을 들여 마이크로소프트 Bing의 RCE (원격 코드 실행, 대상 시스템에서 임의의 코드 실행을 허용하는 가장 심각한 취약점)를 격파했습니다. 이것은 한 가지 반직관적인 진실을 입증합니다: 전 세계 해커의 공을 견디었던 "요새"조차도, AI의 끈질기며 자동적인 정찰과 우선순위 설정을 통해 안전 비용을 얼음점까지 낮췄습니다.

AI는 이미 세계 최고 수준의 인간 해커를 능가하는 전투 능력을 갖추었으며, 단순히 보조 도구가 아닙니다. HackerOne (기업과 보안 연구자를 연결하는 버그 바운티 플랫폼)에서, XBOW의 로봇이 전 세계 1위를 차지하며 완전히 블랙박스 테스트(내부 코드를 알지 못한 채로 공격)를 통과했습니다. 이것은 "기계가 복잡한 창의적 공격을 다룰 수 없다"는 오해를 깨뜨리고, AI가 "제안을 하는 보조자"에서 공격 결과를 독립적으로 전달하는 "자율 전사"로 진화했다는 것을 입증합니다.

「모델 합금」 전략을 통해 AI는 자가 교정을 통해 1+1>2의 진화 효과를 달성할 수 있습니다. XBOW는 각 공격 행동 단계에서 Gemini와 Sonnet과 같은 다양한 모델을 번갈아 호출하여 (합금 모드) 모델 간 차이를 활용하여 서로의 논리 오류를 보상합니다. 이 평가의 중요성은 가장 강력한 해커 AI로 가는 길이 항상 단일 완벽한 모델의 등장을 기다릴 필요는 없다는 것이며, 합리적인 엔지니어링 아키텍처를 통해 기존 모델을 협업시키면 단일 모델을 훨씬 뛰어넘는 파괴력을 얻을 수 있습니다.

진정한 보안 위협은 「이용 가능한 실제 충격」에서 나옵니다. 이론적인 취약점 발견이 아니라 코드 감사에서 나오는 것입니다. 전통적인 화이트박스 테스트(원본 코드 액세스 권한을 가지고 분석하는 것)는 종종 많은 취약점을 나열하지만 해당 취약점이 실제로 불법 침입에 이용될 수 있는지 확인할 수 없습니다. 그러나 자가 AI는 전투 시뮬레이션을 통해 명확한 답변을 제공할 수 있습니다. 이는 핵심적인 전환을 제안합니다: 방어자는 대량의 「가짜 취약점 보고서」에서 벗어나 실제로 서버를 장악할 수 있는 치명적인 지점에 주의를 기울여야 합니다.

취약점 패치의 생존 창은 완전히 닫혔으며, 공격 행위는 취약점이 공개되기 이전에 일어납니다. 이전에는 CVE(Common Vulnerabilities and Exposures, 공개된 보안 취약점 목록)에서 공개될 때부터 활용될 때까지 2년이 걸렸지만 오늘날이라면 해당 취약점이 AI에 의해 대규모로 이용되기 전에 공식적으로 확인되어야 합니다. 이는 절박한 결론을 도출합니다: 「패치 기다림」 방어 전략에 의존하는 것은 이미 실패했으며, 능동적인 자동화 방어가 유일한 생존 전략이 되었습니다.

AI의 부상은 네트워크 보안 산업의 종말이 아닌 방어 가치의 극한 재구성입니다. AI 주도의 자동 공격에 직면할 때 전통적인 네트워크 보안 주식 하락은 논리적이지 않습니다. 왜냐하면 사회는 이제 AI 공격에 대항하기 위해 AI 주도의 방어 수단이 더 필요한 상황에 있기 때문입니다. 이 평가는 다음을 주장합니다: 우리는 생존을 위한 군비 경쟁에 참여하고 있으며, 유일한 해결책은 보다 강력한 AI로 연구자들을 능력 부여하여 나쁜 사람이 움직이기 전에 모든 틈새를 찾아내는 것입니다.

세계적인 디지털 인프라를 수리하는 데 남은 시간은 1년도 안 남았습니다. Open-weight models(가중치 공개, 로컬에서 실행 가능한 AI 모델)의 발전으로 자가 해커 능력의 극한이 6개월에서 9개월 내에 전 세계적으로 보급될 것입니다. 이 상반된 판단은 마지막 통고를 내쫓고 있으며: 이 극단적으로 짧은 기간 내에 방어 자동화를 완료하지 못하면 전 세계 인터넷 시스템은 곧 다가올 연말 휴일에 전례없는 보안 겨울에 직면하게 될 것입니다.

이 대화에서 기억해야 할 단 하나의 것은 무엇입니까?

현재 AI는 세계 최고 해커처럼 최상위 웹사이트를 자동으로 침투할 수 있으며, 이 능력은 1년 이내에 어디서나 볼 수 있을 것이며, AI를 사용하여 취약점을 자동으로 보완하지 않으면 시스템이 금방 완전히 뚫릴 것입니다.

컴퓨팅 파워 및 하드웨어의 가장자리 도박

Recursive Intelligence: AI 칩 디자인의 자동화 혁신

Recursive Intelligence는 Anna Goldie와 Azalia Mirhoseini가 설립한 AI 칩 디자인 회사입니다. 두 사람은 이전에 Google Brain에서 함께 작업하여 강화 학습을 사용하여 칩 레이아웃을 자동으로 디자인하는 AlphaChip을 발명했으며, 이 시스템은 Google의 4세대 TPU 및 Pixel 핸드폰 칩에 적용되었습니다. 그들은 "AI 칩 디자인"을 TSMC가 파블레스 시대를 열었던 것과 유사한 산업적 변화로 만들고자 하며, "Designless" 개념을 제안하여 고객이 작업 부하 요구 사항을 제출하기만 하면 플랫폼이 제조 가능한 칩 디자인을 자동으로 생성하도록 하려고 합니다.

인간 전문가는 칩 이터레이션의 짐으로 전락하고 있습니다. 현재의 물리적 설계 및 논리적 검증은 각각 1년이 소요되며 수천 명의 전문가가 관여하는데, 이러한 비효율성은 비즈니스에 엄청난 손실을 초래하고 있습니다. 현재 NVIDIA Blackwell 칩은 하루의 지연으로 인해 2.25억 달러의 기회 비용이 손실되는데, 인간 경험에 의존하는 전통적인 디자인 패턴은 AI 발전의 가장 큰 장애물이 되고 있습니다.

AI와 하드웨어의 물리적 하향식 재귀적 진화 환경을 열어야 합니다. AI를 사용하여 칩 디자인을 최적화한 다음 보다 강력한 칩을 사용하여 더 강력한 모델을 훈련시켜 소프트웨어 피드백에 따라 자동 조정할 수 있도록 함으로써 소프트웨어와 하드웨어의 분리를 완전히 깨부술 것입니다. 이 "재귀적 자가 개선" 주장은 다음과 같습니다: 칩은 정적인 연료일 뿐만 아니라 소프트웨어 피드백에 따라 자동으로 조절할 수 있는 동적 실행 단으로 AI 진화 체인에 속해야 합니다.

AI는 복잡한 레이아웃 작업에서 "초인" 능력을 보여주었습니다. Alpha Chip 에이전트가 생성한 칩 레이아웃은 다양한 세대의 TPU 및 Pixel 핸드폰 칩에서 Tape-out을 통과했습니다 (실제 제조를 위해 공장에 제출되는 마지막 테스트). 이 결론은 "하드웨어 디자인에는 인간 직관이 필요하다"는 오해를 깨뜨리며, 강화 학습이 수십 억 개의 구성 요소 쌓기 문제를 가장 경험이 풍부한 엔지니어보다 완벽하게 해결할 수 있다는 것을 입증했습니다.

칩 디자인 도구는 AI를 육성하기 위해 100,000배 빨라져야 합니다. 전통적인 상용 도구는 최적화를 위해 수 일이 걸릴 수 있으며, 이는 수백만 번의 시도를 필요로 하는 AI의 진화를 제약합니다. 이러한 수준의 가속은 "빨라졌다"는 것뿐만이 아니라 AI가 대량 디자인 공간에서 신속한 이터레이션과 지수 함수 학습을 수행할 수 있도록 함을 의미합니다.

고품질의 실시간 피드백은 자동화된 디자인을 실현하는 엔진입니다. Recursive가 개발한 SPA(정적 타이밍 분석, 전기 신호가 제 시간에 도달했는지 확인하는 정적 타이밍 분석 엔진)는 기존 도구보다 1,000배 빠릅니다. 이러한 실시간 피드백 신호는 강화 학습(RL)에 극히 중요하며, 이를 통해 AI는 최적화 프로세스 중에 각 단계의 변경이 성능에 미치는 영향을 즉시 파악함으로써 보다 정확한 결정을 내릴 수 있습니다.

칩 산업은 '디자인 없는(Designless)' 시대를 맞이할 것입니다. 마치 TSMC가 '파블레스(Fabless)' 시대를 열었던 것처럼, 미래의 플랫폼은 사용자가 워크로드(작업 부하, 즉 모델 실행의 구체적인 작업 요구)만 입력하면 제조 가능한 디자인을 생성할 수 있게 될 것입니다. 이는 맞춤형 칩이 더 이상 대기업의 특권이 아니라 어떠한 규모의 작업 부하를 갖고 있는 회사라도 수천 명의 전문가 팀을 구성하는 과정을 생략할 수 있음을 의미합니다.

AGI 규모에서 1%의 미세한 개선이 상당한 비즈니스 리버스 이펙트를 제공합니다. 최첨단 모델의 계산 능력 소비가 기하급수적으로 증가함에 따라, 아주 작은 하드웨어 성능 향상조차도 천문학적인 비용 절감으로 전환될 것입니다. 이러한 관점의 역설적인 점은 인간의 직감에서 벗어난 극단적인 맞춤화 추구가 AI 시대에 기업의 경쟁력을 재구성할 정도로 규모 효과로 확대된다는 것입니다.

가장 효율적인 물리적 디자인은 종종 인간에게는 '이상한' 것으로 보입니다. AI로 생성된 칩 레이아웃은 구부러지고 유기적인 형태를 띠며, 깔끔하고 직사각형인 전통 엔지니어가 놀라워할 만큼입니다. 이는 한 가지 역질적 결론을 주장합니다: 인간의 규칙적이고 대칭적인 아름다움의 선호는 실제로 칩 성능이 제약되어 있다는 것을 의미하며, 진정한 물리적 최적해는 종종 인간의 미감 직감을 뛰어넘는 '이상한 공간'에 존재합니다.

이 대화에서 기억해야 할 한 가지는 무엇일까요?

앞으로 칩을 만들 때 천 명의 전문가가 밤새 그림을 그릴 필요가 없을 것이며, AI에게 요구 사항을 알려주기만 하면 몇 분 안에 인간이 그린 것보다 더 효율적이고 절전적인 '이상한' 회로를 설계해낼 것입니다.

Starcloud: 우주 내 가장 저렴한 계산 능력

Starcloud는 우주 데이터 센터 스타트업으로, AI 교육 및 추론 계산 능력을 직접 우주 경로로 보내는 것을 주장합니다. 이는 땅의 비용 없이, 24/7 운전 가능한 자연광과 에너지 밀도가 지상의 8배인 환경에서 이루어집니다. 이미 NVIDIA와 협력하여 우주에서 실행 가능한 H100 칩을 개발 중입니다.

지구 데이터 센터는 땅 접근 및 에너지 저장 비용에 의한 경제적 병목 현상에 직면하고 있습니다. 북미 지역에서 태양광 프로젝트 구축의 최대 비용은 토지 허가 비용이며, 다음으로는 야간 정전에 대응하기 위해 대규모 배터리 배열을 구축해야 하는 비용입니다. 이 평가는 AI 계산 능력의 실제 병목이 칩 자체가 아니라, 지구 환경에서의 비싼 '물리적 자리세'와 불규칙한 에너지 공급으로 인해 에너지 비용이 완전히 낮아질 수 없음을 드러내고 있습니다.

우주는 유일한 제로 랜드 비용 및 연중무휴 전력을 제공할 수 있는 궁극적인 컴퓨팅 장소입니다. 우주에서는 데이터 센터가 땅 지불 없이 운영되며, 비싼 배터리 저장 공간도 필요하지 않습니다. 왜냐하면 '영원한 주야' 궤도에 있는 인공위성은 항상 햇빛을 잡을 수 있기 때문입니다. 연설자는 우주가 과학의 최전선이 아닌 AI의 거대한 카톡을 해결하기 위한 저비용 대안이라고 말했습니다. 왜냐하면 우주 태양전지판의 효율은 지상의 8배이기 때문입니다.

최첨단 민간 GPU는 이미 극단적인 방사선과 진공 냉각 환경에서 안정적으로 작동할 수 있음이 입증되었습니다. Starcloud 1은 이미 궤도 상에서 NVIDIA H100 칩을 운영하고 nanoGPT(소형 생성식 사전 훈련 모델)을 훈련하여 '우주 전자 부품은 반드시 오래된 방사능 내성 칩을 사용해야 한다'는 오해를 깼습니다. 이것은 인류가 최고의 지상 수준 계산 능력을 직접 근지 궤도에 배치할 수 있는 첫 번째 경우로, 우주 컴퓨팅의 기술적 격리를 완전히 제거했습니다.

로켓 발사 비용의 척도적인 하락은 현재 '우주 컴퓨팅'을 공상에서 가장 저렴한 현실로 신속히 변모시키고 있습니다. 발사 비용이 1킬로그램 당 500달러 미만으로 감소함에 따라 우주 컴퓨팅의 종합 비용이 지상보다 낮아질 것이며, Starship(우주선, SpaceX의 대형 운반 로켓)의 설계 목표는 1킬로그램 당 10~20달러입니다. 이 평가의 중요성은 우주로의 '티켓'이 더 이상 비싸지 않았다는 것이며, 이는 우주 컴퓨팅이 더 이상 위성 전용이 아니라 전 세계적인 대규모 컴퓨팅 작업을 수행할 수 있는 것입니다.

열제거(Efficient Heat Dissipation)가 전력이 아닌 우주 데이터 센터 규모 결정의 최종 물리적 제약이 될 것입니다. 우주가 진공 환경이기 때문에 열은 적외선 방사로만 방출될 수 있으며, 이는 Stefan-Boltzmann equation(스테판-볼츠만 방정식, 온도의 네 제곱과 블랙바디 방사 출력이 비례하는 물리 법칙)을 통해 방대한 열 제거 면적을 계산해야 함을 의미합니다. 이는 미래의 우주 컴퓨팅 아키텍처가 열 제거기 면적으로 정의될 것이며, 단순히 에너지 입력이 아닌 열효율이 시스템의 촘촘함을 직접 결정할 것입니다.

미래의 고급 AI 칩은 저온 안정성을 희생한 채 '고온 내구성' 성능을 지향할 것입니다. NVIDIA는 고온에서 운영 온도를 증가시키고 열 제거기의 무게를 대폭 줄이기 위해 장애율을 높이지 않는 Space Reuben 1 칩을 개발 중입니다. 이는 발사 하중을 경감하기 위해 칩 디자이너가 물리 법칙의 네 번째 제곱 효과를 활용하여 칩을 '열 유출'시킴으로써 보다 가벼우며 효율적인 위성 아키텍처를 구축하도록 하는 역방향 추세를 주장합니다.

우주 컨스텔레이션은 세계적 추론(tasks)의 가장 효율적인 엔진이 되며, 단순히 데이터 중계소가 아니라 '답안 생산자'로 진화할 것입니다. Starcloud 계획은 8.8만 개의 인공위성을 배치하여 20 기가와트의 컴퓨팅 클러스터를 구축하고, 광학 링크를 통해 전 세계적인 50밀리초 미만의 지연 시간으로 코드 생성(agent tasks)을 전용으로 지원할 것입니다. 이는 우주가 '정보 운송 교수'에서 '답안 제조자'로 진화할 것을 예고하며, 사용자로부터 가장 가까운 궤도에서 지능적인 의사 결정을 완료할 것입니다.

우주로의 대규모 컴퓨팅 자원 이전은 인류 문명이 '다이슨 구' 수준으로 나아가는 발판이 됩니다. 20 기가와트 규모의 우주 기반 시설 구축은 비즈니스 전략뿐만 아니라 인류가 2형 문명(별의 모든 에너지를 활용할 수 있는 문명 레벨을 가리킴) 건설을 시작하는 시작점입니다. 이 판단은 매우 거대하고 직관에 반하는 것으로, 우리는 현재 역사상 최대의 기반 시설 건설 연도에 있으며, 이는 지구 자원에 제한받지 않고 태양 에너지를 직접 수확하기 시작했음을 나타냅니다.

이 대화에서 기억해야 할 한 가지는 무엇인가요?

지구에 데이터 센터를 짓는 것은 너무 비싸고 전력을 너무 많이 사용하므로 앞으로는 모든 AI 칩을 우주로 보내서 하루 24시간 태양 빛을 받아 전 세계에서 가장 저렴한 지능을 만들어야 합니다.

Flapping Airplanes: 데이터는 AI의 실질적 병목 현상

Flapping Airplanes는 "데이터 효율성"과 "알고리즘-하드웨어 협력 최적화"에 초점을 맞춘 AI 기본 연구 기업입니다. 핵심 주장은 기존 AI 모델이 구조적으로 극도로 낭비된다는 것입니다 — 인간은 현재 선두 모델의 10,000~100,000 배만큼의 데이터로 프로그래밍을 배웁니다. 그들은 PyTorch 등의 주류 프레임워크 제한을 피하고, GPU의 기저 논리를 직접 제어하여 "적은 데이터" 조건에서 대형 모델 효과에 근접하는 새로운 패러다임을 개발하려고 노력합니다. 회사명 '펄핑 비행기'는 은유적인 표현을 함의합니다: 옛날에 인간들은 새의 날갯짐 비행을 모방하는 데 열성적이었지만 결국 실패했으며, 실제 이륙한 것은 고정익 비행기였습니다 — AI는 대형 모델의 강제적인 경로를 그대로 따를 필요가 없습니다.

현재의 AI 번성은 본질적으로 '부채괴효과'입니다. 모델은 데이터가 극도로 풍부한 좁은 영역에서만 능력을 발휘합니다. 검색 및 프로그래밍이 강력한 이유는 인터넷 전체와 대량의 합성 데이터를 소모했기 때문입니다. 이 판단의 주장은: 이러한 '데이터 탐욕스러움' 모델은 머신 러닝 알고리즘이 로봇이나 공급망과 같은 분야의 데이터가 극도로 부족하기 때문에 더 넓은 실물 경제로 복제할 수 없으며, AI는 '고품질 데이터 마이닝' 으로 살아남아야 합니다.

인간의 학습 효율성은 현재 AI 모델이 구조적으로 자원을 낭비하고 있음을 입증합니다. 인간은 현재 선두 모델보다 10,000~100,000배 적은 데이터 양으로 동일한 고급 프로그래밍 기술을 숙달할 수 있습니다. 이는 데이터 효율성이 완전히 실현 가능하다는 것을 의미하며, 현재의 확장 법칙은 알고리즘의 효율성을 가리키는데 사용되고 있습니다.

컴퓨팅력은 확장하기 쉬운 표준 상품이지만 고품질 데이터는 마찰이 많은 비표준 자산입니다. 컴퓨팅력을 구입하는 데는 자금이 필요하지만 장대한 임무의 고품질 데이터를 얻으려면 복잡한 규제 협상, 기업 조건 제약, 심지어 파산한 실제 서점을 약탈해야 합니다. 따라서 데이터 효율성을 1000배 향상시키는 비즈니스 가치는 컴퓨팅력을 1000배 저렴하게 하는 것보다 훨씬 큽니다. 왜냐하면 이것은 현실 세계의 각 산업에 대한 '행정 장벽'을 직접 제거하기 때문입니다.

데이터 효율성은 미래 AI 세계의 권력 구조를 결정하며 기술의 독점을 깨는 유일한 무기입니다. 데이터 양이 여전히 경쟁의 요새인 경우, AI 혁명은 대량 정보를 독점하는 소수 기업들의 게임으로 전락할 것입니다. 연설자는 효율성을 향상시켜 일반 기업도 경쟁에 참여할 수 있도록 주장하며, 이는 데이터 효율성이 기술 지표뿐만 아니라 AI 혁명이 '중앙 집중화' 또는 '분산 평등'으로 나아가는 철학적 스위치임을 의미합니다.

PyTorch와 같은 주류 소프트웨어 프레임워크는 '족장'을 쓰고 춤을 춘다. 이는 하드웨어 성능을 심각하게 제한하고 있습니다. PyTorch(인기 있는 오픈 소스 머신 러닝 프레임워크)는 사용 편의성을 위해 매우 병렬 처리되는 GPU(그래픽 처리 장치)를 단일 스레드 모델로 위장하여 많은 효율적인 알고리즘이 표현되지 못하도록 합니다. 이 판단의 중요성은 다음과 같습니다. 우리가 직면한 병목 현상은 종종 칩이 충분히 빠르지 않다는 것보다는 하드웨어와 상호 작용하는 방식이 가장 똑똑하고 데이터를 가장 절약하는 경로를 차단하고 있다는 것입니다.

AI 능력의 새 경계를 찾기 위해서는 직접적으로 '하드웨어 기본 구성 단위'에서 차원을 축소해야 합니다. 하드웨어 상호 작용을 다시 정의함으로써 primitives(프리미티브, 복잡한 프로그램을 구성하는 최소 논리 단위)를 아레해 본딩의 효율이 낮은 복잡한 알고리즘을 잠금 해제할 수 있습니다. 이는 직감에 반하는 경로를 제안하는 것입니다. AI를 더 똑똑하게 만들고 싶다면 하드웨어를 '고문'해야 하며, 주류 시스템에서 버려진 고효율 잠재력을 파고들어야 합니다.

시스템과 알고리즘의 '공조 최적화'를 통해 진정한 데이터 효율성 돌파를 이룰 수 있습니다. 연설자는 전체 GPU를 장악하는 가상 아키텍처를 개발했으며, 기존 논리로는 '비동기적이고 비효율적'인 세밀한 훈련 루프를 실행하기 위한 것입니다. 이러한 심층 맞춤형의 의미는 소프트웨어 및 하드웨어의 분리를 깰 뿐만 아니라, 알고리즘을 하드웨어에 직접적으로 최적화해야만 극소량 데이터에서 지능적인 변이를 이룰 수 있음을 입증했습니다.

AI 진화의 최종 단계는 '대규모 데이터' 주도에서 '정교화' 주도로 이동하여 경제의 꼬리 부분을 재구성하는 것입니다. AI가 더 이상 인터넷 규모의 데이터에 의존하지 않을 때에만, 수백만에 달하는 현존하는 전통 산업 장면에서 디지털화 리소스가 부족한 경우에 실제로 스며들 수 있습니다. 이러한 판단은 극도로 화려합니다. 우리는 '규모'를 추구하는 것이 아니라 '효율'을 추구해야 하며, '소량 데이터' 문제를 해결할 수 있는 AI만이 실제로 물리적 세계를 변화시킬 수 있는 진정한 AGI가 됩니다.

이 대화에서 기억해야 할 한 가지는 무엇인가요?

현재 AI 학습 효율이 너무 낮기 때문에, AI가 새로운 기술을 손쉽게 습득할 수 있도록 인간처럼 몇 번만 봐도 되는 학습 방식으로 가르친다면, 공장, 병원 및 우리의 생활의 모든 측면으로 AI가 정말로 진입할 수 있을 것입니다.

비전통적인 AI: 두뇌가 왜 1,000,000 배 더 효율적일까요

비전통적 AI는 네이븐 라오가 설립한 폰 노이만 아키텍처 컴퓨팅 회사입니다. 핵심 주장은: 현대 AI는 여전히 1940년대에 완전히 다른 목적으로 설계된 부동소수점 + 폰 노이만 아키텍처에서 실행되고 있으며, 대부분의 에너지가 "메모리 및 연산 유닛 간 데이터 이동"에 소비된다는 것입니다. 그들은 비선형 다이내믹스와 오실레이터를 사용하여 이러한 모의 물리 과정을 결합하고, 계산 결과가 자연 시스템의 진화를 통해 "자발적으로 신장"되게하려고 시도합니다. 목표는 에너지 효율성을 세 개의 자릿수로 향상시키고 두뇌 수준에 가까이 다가가는 것입니다.

AI 개발은 곧 물리 세계의 "에너지 벽"에 직면할 것이며, 현재의 계산 능력 확장 모델은 계속될 수 없을 것입니다. 2~4년 안에 세계적으로는 현재 트랙에서의 AI 교육 및 추론 수요 증가를 지원할 충분한 여분 전력이 더 이상 없게 될 것입니다. 이 판단의 중요성은 현재의 스케일링 법칙이 본질적으로 에너지를 폭력적으로 소비하여 지능을 확보하려는 것이며, 계산의 물리적 기반을 변경하지 않으면 AI의 진보가 에너지 천장에 도달하여 강제로 침체될 것이라는 점에 있습니다.

생물 대뇌의 존재는 "고 에너지"가 지능의 필연적인 대가가 아니라 우리가 설계한 결함임을 입증합니다. 전 세계 80 억 인구의 대뇌 총 전력은 단 160 기가와트이며, 현재의 AI 모델은 한 번의 추론 또는 교육으로 메가와트 또는 심지어 기가와트 수준의 에너지를 소비할 수 있습니다. 이는 핵심적인 주장을 내포하며, "지능"을 실현하는 방식이 극도로 비효율적이라는 점을 보여주며, 생물 계는 저전력 성운행의 일반적인 지능 "존재 증명"을 제시하며, 우리는 계산 논리를 철저히 재구성해야 한다는 신호를 제공합니다.

우리는 이미 80년의 역사를 가진 구식 숫자화 추상 위에 21세기 지능을 구축하려는 시도를 하고 있습니다. 현대 칩은 여전히 1940년대에 완전히 다른 목적으로 설계된 부동소수점과 폰 노이만에 의존하고 있으며, 데이터는 두 요소 간의 이동으로 대부분의 에너지가 소비됩니다. 이 전환에 대한 판단은, 강력한 GPU조차도 잘못된 아키텍처에서 "수리하려"했음을 비직관적으로 지적하며, 하드웨어 진화의 방향성이 처음부터 지능 처리의 본질에서 벗어나 있다는 것입니다.

AGI로 가는 진정한 길은 행렬 수학을 버리고 비선형 다이내믹스 계산으로 방향을 전환하는 것입니다. 뇌는 GPU처럼 행렬을 계산하는 것이 아니라 비선형 다이내믹스를 통해 뉴런 상호 작용을 합니다. 이 결정의 주장은 더는 초당 몇 번의 정확한 계산을 추구해서는 안 되며, 시스템이 시간에 걸쳐 자발적으로 수렴하여 답을 도출하도록하면서 크로스 제도의 효율성을 극적으로 높일 수 있다는 것에 있습니다.

"소음"과 무작위성을 받아들이는 것은 초저전력 계산을 실현하는 필수 단계입니다. 디지털 컴퓨터는 한 비트라도 잘못되면 시스템이 마비됩니다. 그러나 뇌는 확률적 신호 내에서 조차 안정적으로 작동할 수 있습니다. 이것은 비직관적인 결론을 내립니다: 극도의 정확성은 오히려 효율성의 족쇄가 되며, 시스템이 일정 수준의 무작위성과 용인력을 갖게 함으로써 생물 수준의 고효율 인공지능을 가능케한다는 것이 관건입니다.

물리 법칙의 "타임 라인"을 사용하여 계산해야 하며, 인위적인 주파수 주기를 지정해서는 안 됩니다. 훈련 가능한 카운플링된 oscillators(진동자, 주기적인 반복 신호를 생성하는 회로를 가리킴)를 사용함으로써, 계산 과정은 시간에 따른 물리 시스템이 안정 상태로 자연스럽게 수렴하는 과정이 되었습니다. 이 판단의 중요성은, 이로써 기존의 기계가 메모리와 캐시 사이를 반복적으로 읽기와 쓰기하는 소비 전력을 제거하고, "물리 법칙" 그 자체가 모든 계산 작업을 담당하도록 한다는 것에 있습니다.

상태, 기능 및 물리적 플랫폼의 완전한 일치만이 계산 효율의 극한을 달성할 수 있습니다. 폰 노이만 아키텍처가 아닌 역학 시스템에서는, 정보 저장 공간이 정보가 처리되는 곳이며, 두 가지가 물리적으로 완전히 일체화됩니다. 이것은 "메모리 월" 제한이 없어지고, 이러한 삼위일체 아키텍처가 계산 효율을 근본적으로 세 배로 향상시킬 것으로 기대되며, 이는 에너지 위기에 직면한 인공지능을 근본적으로 해결할 것입니다.

AGI를 구축하는 과정은 또한 인류가 자신의 의식 본질을 궁극적으로 이해하는 과정입니다. 우리가 제일 원천적인 이유에서 시작하여, 합성 회로를 사용하여 뇌의 비선형 동적 궤적을 복제할 수 있을 때, 우리는 진정한 지능의 운행 비밀을 파악한 것입니다. 이러한 판단은 매우 거대합니다: AGI는 소프트웨어의 승리뿐만 아니라 하드웨어의 "회귀"이며, 우리는 직접 뇌를 구축함으로써 40 억 년 동안 이어진 생물 정보의 물리적 수수께끼를 해결할 수 있습니다.

이 대화에서 기억해야 할 한 가지는 무엇인가요?

현재 컴퓨터는 계산을하는 데 너무 많은 전력을 소비합니다. 우리는 대신 컴퓨터가 수학 문제를 또르르 계산하게 하는 대신, 전류가 회로 안을 물 흐르듯 자연스럽게 답을 찾아내도록하는 뇌의 구조를 배워야 합니다.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia