원문 제목: Jensen Huang: NVIDIA - 4조 달러 기업 & AI 혁명 | Lex Fridman Podcast
원문 작성자: Lex Fridman
번역: Peggy, 블록비츠

편집자 주:

생성 모델이 지속적으로 발전하고, 에이전트가 실제 생산 과정에 진입하기 시작함에 따라, 산업 토론의 중심은 "모델의 능력이 얼마나 강한가"에서 "시스템이 지능을 어떻게 수용하는가"로 이동하고 있습니다. 대규모 모델 교육이 점차 표준화되면서, 보다 근본적인 문제가 드러나기 시작했습니다. AI의 지속적인 확장을 지탱하는 것은 더 이상 알고리즘의 돌풍이 아니라 전체 컴퓨팅 시스템 그 자체입니다.

본문은 Jensen Huang(황렌훈)과 Lex Fridman의 대화를 번역한 것으로, Lex Fridman은 유명한 AI 연구자이자 기술 팟캐스트 호스트로, 그의 프로그램은 기술, 산업 및 미래 트렌드에 대한 심층 토론에 초점을 맞추고 있습니다. 이 대화에서 황렌훈은 모델의 능력보다는 계산 아키텍처와 산업 발전을 중심으로 하여 더 구조적인 판단을 내놓았습니다: AI는 "칩 문제"에서 출발하여 "시스템 엔지니어링 문제"로 발전하고 있다는 것입니다.

이 대화는 대략 다섯 가지 측면에서 이해될 수 있습니다.

컴퓨팅이 "칩"에서 "공장"으로
대화의 첫 번째 핵심 판단은, AI의 경쟁이 더 이상 단일 포인트 성능을 중심으로 진행되는 것이 아니라 시스템 능력의 경쟁으로 전환되었다는 것입니다. GPU에서 전체 시스템 및 데이터 센터 수준의 "AI 공장"으로, 계산 단위의 경계가 계속해서 확장되고 있습니다. 동시에 컴퓨터의 역할도 변화하고 있습니다. 정보를 저장하고 검색하는 "창고"에서 토큰을 지속적으로 생성하는 "생산 시스템"으로 변화하고 있습니다. 이는 AI가 더 이상 도구에 불과한 것이 아니라 경제 생산의 기반 시설에 직접 참여하고 있다는 것을 의미합니다.

네 가지 스케일링 겹침: AI가 왜 점점 "무겁"어지는가
이 패러다임 위에서 AI의 확장 경로도 구조적인 변화를 겪었습니다. 성장은 더 이상 단일 사전 훈련 스케일링에 의존하지 않고 사전 훈련, 사후 훈련, 추론 및 에이전트의 네 가지 스케일링을 겹쳐 하나의 순환 시스템을 형성하였으며, 이는 에이전트가 데이터를 생성하고, 데이터가 훈련에 들어가며, 훈련이 추론을 지원하고, 다시 추론이보다 복잡한 에이전트를 지원하도록 하는 과정입니다. 모든 경로는 최종적으로 "연산 능력"이라는 변수로 수렴하게 됩니다. 여기서 가장 중요한 변화는 추론이 계산 소비의 핵심이 되고 있으며, "사고" 자체가 가장 비싼 단계가 되고 있다는 것입니다.

인공지능의 병목 현상: 알고리즘에서 에너지로의 전환
스케일링이 진행됨에 따라, 문제는 모델 수준에서 기반 인프라 수준으로 이동했습니다. 이야기하는 한 가지 명확한 판단은, 인공지능의 장기적인 병목 현상이 더 이상 데이터나 알고리즘이 아니라 전력 및 에너지 체계임을 보여줍니다. 그러나 진정한 제약은 공급 부족뿐만 아니라 전력 그리드 일정, 데이터 센터 아키텍처 및 기업의 '고가용성'에 대한 의존 경로입니다. 이로써, 기술 문제에서 인공지능의 문제로 변화되었으며, 그것은 공학, 에너지 및 제도 조직의 종합적 문제로 바뀌었습니다.

CUDA의 본질: 기술 우위가 아니라 설비 용량
경쟁적인 측면에서, 이야기는 또한 중요한 시각을 제시했습니다: NVIDIA의 요새는 기술적 우위뿐만 아니라 CUDA를 통해 구축된 설비 용량과 개발자 생태계를 통해 이루어졌습니다. CUDA를 GeForce에 포함시키고 단기 수익을 희생하며 규모 확대를 가져옴으로써, NVIDIA는 사실상 '계산 플랫폼'을 구축했습니다. 규모, 생태계 및 실행 속도가 겹쳐질 때, 기술 자체가 두번째 변수가 되었습니다. 이는 인공지능 경쟁이 모델 능력에서 플랫폼 및 시스템 능력으로 전환되고 있다는 것을 의미합니다.

참고: CUDA(Compute Unified Device Architecture)는 NVIDIA가 출시한 병렬 컴퓨팅 플랫폼으로, GPU를 그래픽 렌더링뿐만 아니라 범용 컴퓨팅에 사용할 수 있게 합니다.

인공지능이 일자리를 빼앗을까요? 아니지만 일자리의 정의를 변화시킬 것입니다
응용 프로그램 측면에서, 이야기는 중요한 판단을 제시했습니다: 인공지능은 단순히 직업을 대체하지 않을 뿐 아니라 작업의 구조를 변화시킬 것입니다. 작업 수준의 자동화는 전체 효율성을 향상시킬 것이며, 전문 능력에 대한 요구를 확대시킬 것입니다. 작업의 핵심은 더 이상 '작업 실행'이 아니라 '문제 정의, 도구 호출 및 협력적 문제 해결'입니다. 지능은 점차적으로 이용 가능한 능력이 되며, 인간의 차이는 판단력과 조직 능력에 더 많이 나타납니다.

만약 이 대화가 명확한 입구점을 제공했다면, 그것은 인공지능을 '모델 능력 경쟁'에서 시작하여 '시스템적 문제'로 전환시켰다는 것입니다: 계산이 생산 시스템이 되었을 때, 기술 자체가 아닌 에너지, 공급망 및 구성 방식이 인공지능을 제한하게 됩니다. 이러한 관점에서, 질문은 더 이상 어떤 기술 경로가 우위를 점할 것인지가 아니라 온갖 세계가 계산을 핵심으로 하는 인프라로 재조직되고 있다는 것입니다.

아래는 원문의 내용입니다 (독해를 돕기 위해 원문은 정리되었습니다):

요약

·AI는 '보다 빠른 칩'에서 '계산 공장'으로 진화했습니다. 경쟁은 더 이상 단일 성능이 아니라 시스템 능력(연산 능력, 네트워크, 전력, 소프트웨어)의 협정 효율입니다.

·CUDA의 성공은 기술이 아닌 설치 규모에 있음: NVIDIA는 이윤을 희생하여 규모를 확보하고 거의 무너질 수 없는 컴퓨팅 플랫폼 생태계를 구축하였음

·AI의 성장은 더 이상 모델 크기에만 의존하지 않고, 사전 훈련, 추론, 에이전트 등 다중 scaling이 동시에 발생하며, 최종적으로 모두가 계산 능력이라는 변수로 수렴함

·추론은 계산 능력 소비의 핵심 단계로, "사고"는 "훈련"보다 비용이 더 많이 들며, AI는 오프라인 모델에서 지속적인 운영 시스템으로 전환하고 있음

·AI의 실제 병목 현상은 알고리즘이 아닌 에너지 및 인프라에 있으며, 전력 스케줄링 능력이 다음 단계에서 핵심 제약 조건이 될 것임

·컴퓨터는 "정보 창고"에서 "생산 공장"으로 변화하고 있으며, 토큰은 가격이 매겨지는 상품이 되고, AI 인프라는 직접적으로 경제 생산에 참여할 것임

·AI는 작업을 단순히 대체하는 것이 아닌, 모든 직업의 능력 한도를 높이는 것이며, 미래의 핵심 능력은 "작업 실행"에서 "문제 정의 및 협업적 문제 해결"로 전환될 것임

인터뷰 내용

Lex Fridman: 이제 Jensen Huang와의 대화를 시작하겠습니다. 그는 NVIDIA의 CEO이며, 이 회사는 아마도 인류 역사상 가장 중요하고 영향력있는 회사 중 하나라고 말할 수 있습니다. NVIDIA는 AI 혁명을 주도하는 핵심 엔진이며, 그의 성공은 대부분 리더로서, 엔지니어로서, 혁신가로서 Jensen이 내린 일련의 중요한 결정과 담대한 결심에서 비롯됩니다. 이것은 Lex Fridman 팟캐스트입니다. 여러분, 이제 Jensen Huang를 환영합니다.

“더 빠른 칩”에서 “AI 공장”으로

Lex Fridman: 당신은 NVIDIA를 AI의 새로운 단계로 이끌었는데, 과거에는 칩 수준 설계에 중점을 두어 왔지만, 지금은 럼슛 수준 설계로 나아가고 있습니다. 예전에 NVIDIA의 승리는 대부분 최고의 GPU를 만드는 데 있었는데, 여전히 그 일을 하고 있지만 이제는 극한의 협력적 설계로 확장되었습니다: GPU, CPU, 메모리, 네트워크, 저장소, 전력, 냉각, 소프트웨어, 자체 런칭한 pod, 심지어 데이터 센터 전체까지. 그럼 “극한의 협력적 설계”에서 얘기해 보겠습니다. 이렇게 복잡한 구성 요소와 변수에 직면했을 때, 시스템 공동 설계에서 가장 어려운 부분은 무엇인가요?

Jensen Huang: 이것은 정말 좋은 질문입니다. 먼저, 왜 극한의 공동 설계를 수행해야 하는지는, 우리가 지금 해결해야 하는 문제가 이미 더 이상 단일 컴퓨터 또는 단일 GPU로 가속화할 수 없기 때문입니다. 당신이 정말 원하는 것은——계산 속도를 증가시키는 것이며, 컴퓨터 수를 늘리는 속도를 능가해야 합니다. 1만 대의 컴퓨터를 추가했지만 성능이 100만 배 향상되길 원합니다. 그럴 때, 알고리즘을 다시 처리하고 알고리즘을 쪼개고 재구성하며, 파이프라인을 분할하고 데이터를 분할하고 모델을 분할해야 합니다. 문제를 이렇게 분산시킨 후에는 더 이상 단순히 “규모 확장”이 아니라 “문제 분산”이고, 이때 모든 것이 병목이 됩니다.

이것은 사실상 Amdahl's Law의 문제입니다. 시스템 전체의 가속화는 가속 가능한 부분이 전체 작업에서 차지하는 비율에 따라 결정됩니다. 만약 계산이 문제의 50%밖에 차지하지 않는다면, 계산 속도를 백만 배로 높여도 전체적으로는 두 배만 향상됩니다. 그래서 당신은 계산을 분산하는 것 뿐만 아니라 파이프라인 분할, 네트워크 연결 문제도 해결해야 합니다. 왜냐하면 이 모든 컴퓨터들은 상호 연결돼야 하기 때문입니다. 우리가 하는 규모의 분산 컴퓨팅에서 CPU는 문제고, GPU도 문제고, 네트워크도 문제이며, 교환도 문제이며, 부하 분배 자체도 문제입니다. 이는 매우 복잡한 컴퓨터 과학 문제입니다. 그래서 우리는 모든 기술을 함께 사용해야 합니다. 그렇지 않으면 당신은 선형으로만 확장하거나 또는 무어의 법칙에 의존해야 할 것이며, 무어의 법칙 자체도 둔화하고 있습니다.

Note: Amdahl‘s Law can be understood as the mathematical expression of the barrel effect in a computing system. In this article, it is used to illustrate that AI computation is not just about improving GPU performance, but that aspects such as networking, storage, scheduling, etc., will also become bottlenecks that require system-level collaborative optimization.

Lex Fridman: 분명히 많은 타협이 들어가 있는데, 완전히 다른 분야의 전문가들이 관련되어 있습니다. 예를 들어 고대역폭 메모리, 네트워크, NVLink, 네트워크 카드, 광학, 구리 상호 연결, 전원, 열관리 등 모든 분야에 세계적인 전문가들이 존재합니다. 당신은 이들을 어떻게 모아서 협업시켰습니까?

Jensen Huang: 따라서 내 팀이 이렇게 큰 것입니다.

Lex Fridman: 당신은 이 프로세스에 대해 이야기할 수 있을까요? 예를 들어 전문가와 폭 넓은 지식을 갖춘 사람들은 어떻게 협업하나요? 이 모든 것을 한 랙에 넣어야 할 때 디자인 프로세스는 어떻게 이루어지는 거죠?

Jensen Huang:

이 세 가지 질문을 통해 대답할 수 있을 것입니다. 첫 번째 질문은 무엇이 "극한 협업 디자인"인가요? 본질적으로 전체 소프트웨어와 하드웨어 스택에서 전체적인 최적화를 수행하는 것입니다. 아키텍처, 칩, 시스템부터 시스템 소프트웨어, 알고리즘, 애플리케이션까지입니다. 이것이 첫 번째 계층입니다. 두 번째 계층은 방금 언급한 것처럼 CPU, GPU 및 네트워크 칩에 머물지 않고도 scale-up 및 scale-out 교환 시스템, 전원 및 열관리를 포함한다는 것입니다. 왜냐하면 이러한 컴퓨터 시스템은 전력을 많이 소모하기 때문입니다. 그들은 실제로 매우 효율적이지만 총 사용량에서 여전히 많은 전력을 소비합니다.

따라서 첫 번째 질문은 "그것이 무엇인가"이고, 두 번째 질문은 "왜 이렇게 해야 하는가"입니다. 우리는 방금 언급한 것처럼 작업 부하를 분산시켜야 하기 때문에 컴퓨터의 수를 증가시킴으로써 얻을 수 있는 이득을 넘어서는 것이 필요합니다.

세 번째 질문은 "어떻게 하는가" 입니다. 사실 이것이 이 회사의 가장 놀라운 점입니다. 컴퓨터를 디자인할 때 운영 체제가 필요합니다. 회사를 설립할 때는 먼저 그 회사가 무엇을 생산해야 하는지를 생각해야 합니다. 많은 회사의 조직도를 보았는데, 모두 비슷한 구조를 가지고 있습니다 - 햄버거처럼 구조화되어 있습니다, 소프트웨어 회사처럼, 자동차 회사처럼. 그러나 저는 이런 것이 의미가 없다고 봅니다. 회사의 목표는 제품을 생산하는 것이며, 연속적으로 우리가 원하는 제품을 생산하는 메커니즘이자 시스템이어야 합니다.

회사의 조직 구조는 그 환경을 반영해야 합니다. 어느 정도로는 이것이 그 조직이 어떻게 작동해야 하는지를 결정하기도 합니다. 제 직접 보고 역할의 팀은 대략 60명 정도입니다. 제가 그들과 1:1로 대화할 수는 없기 때문에 이는 불가능한 일입니다. 직속 부하 직원이 60명이라면 업무를 수행하는 데 1:1로는 불가능할 것입니다.

Lex Fridman: 하지만 여전히 60명의 직접 보고를 받으시나요?

Jensen Huang: 그보다 더 많습니다. 그리고 이들은 주로 엔지니어링 배경을 가지고 있으며, 메모리 전문가, CPU 전문가, 광학 전문가, GPU 전문가, 아키텍처, 알고리즘, 디자인 전문가입니다.

Lex Fridman: 이것은 정말 놀랍군요.

Jensen Huang: 맞아요.

Lex Fridman: 그렇다면 여러분은 계속해서 전체 기술 스택을 주시하시고 전반적인 디자인에 대한 심도 있는 토론에 참여하고 계시다는 말이죠?

Jensen Huang: 그리고 우리는 "1:1" 대화를 하지 않습니다. 우리는 문제를 제기하고, 그런 다음 모두가 함께 해결합니다. 우리는 극한 협업 설계를 하고 있기 때문에 회사는 매일 이것을 수행하고 있습니다.

Lex Fridman: 다시 말해, 한 가지 구성 요소에 대한 토론을 하더라도, 예를 든다면 열 배출이나 네트워크와 같은 것에 대해, 모든 사람들이 참여하십니까?

Jensen Huang: 네, 정확히 그렇습니다.

Lex Fridman: "모든 사람이 '이 솔루션이 전원에 대해 적용되지 않는다', '이것은 메모리에 적용되지 않는다'라고 말할 수 있죠?"

Jensen Huang: 그렇습니다. 누가 참여하고 싶으면 참여하고, 참여하고 싶지 않으면 나가면 됩니다. 하지만 팀의 모든 사람들은 언제 참여해야 하는지 알고 있습니다. 만약 어떤 문제에 그가 참여해야 할 때 참여하지 않았다면, 나는 그를 부르도록 합니다.

Lex Fridman: 그렇다면 NVIDIA는 환경 변화에 따라 어떻게 진화해 왔나요? 처음에는 게임 GPU를 만들다가, 딥 러닝으로 발전하고, 이제 "AI 공장"으로 진화한 것은 어떻게 된 것인가요?

Jensen Huang:

이것은 논리적으로 유추할 수 있습니다. 우리는 초기에 가속기 회사였습니다. 그러나 가속기의 문제는 그 응용 범위가 너무 좁다는 것입니다. 그것의 강점은 매우 최적화되어 있다는 점이며, 모든 전용 시스템과 마찬가지로, 그러나 문제는 전문화될수록 시장 커버리지가 줄어든다는 것입니다. 이 자체가 가장 큰 문제가 아니며, 더 중요한 것은 시장 규모가 당신의 연구 개발 능력을 결정하고, 연구 개발 능력이 최종적으로는 당신이 컴퓨팅 분야에서 영향력을 가지게 됩니다.

그래서 우리가 처음 가속기를 만들 때, 우리는 단순히 첫 번째 단계라는 것을 알았습니다. 우리는 '가속 계산'으로 나아가는 길을 찾아야 했습니다. 그러나 문제는 한 번 계산 회사가 되면 너무 범용적이 되어 전문 능력이 약화된다는 것입니다. 나는 의도적으로 이 두 가지 대립되는 용어를 함께 놓았습니다: 계산 vs 전문. 당신이 계산 회사처럼 보일수록 전문 시스템처럼 보이지 않고, 당신이 전문적일수록 전체 계산 영역을 커버하는 것이 더 어려워집니다.

그래서 회사는 매우 좁은 길을 찾아야 하며, 계산 능력의 경계를 천천히 확장하는 동시에 가장 핵심적인 전문 능력을 잃지 않아야 합니다.

우리의 첫 번째 단계는 프로그래밍 가능한 픽셀 쉐이더를 발명한 것이었는데, 이는 '프로그래밍'으로의 첫 걸음이었습니다. 두 번째로, 우리는 쉐이더에 FP32를 추가했는데, 이는 IEEE 표준을 준수하는 단정밀도 부동 소수점입니다. 이 단계는 매우 중요했고, 많은 스트림 프로세서 및 데이터 흐름 계산을 수행하는 사람들이 우리의 존재를 알게 되었습니다. 그들은 이러한 강력하면서도 표준을 준수하는 GPU를 일반 계산에 사용할 수 있다는 것을 깨달았습니다. 따라서 그들은 원래 CPU에 쓰여진 소프트웨어를 GPU로 이전하려고 시도하기 시작했습니다.

그 다음으로, 우리는 FP32에 C 언어를 도입하여 Cg를 형성하고, 이를 더 나아가 CUDA로 발전시켰습니다. CUDA를 GeForce에 적용하는 것은 매우 중요한 결정이었지만, 당시 회사는 이러한 비용을 감당할 수 없었습니다. 그 결정을 내린 이유는 회사가 계산 회사가 되길 원했기 때문이었습니다. 계산 회사는 통합된 계산 구조가 있어야 하며, 이 구조는 모든 칩에서 일관되어야 합니다.

회사를 거의 망하게 만들 뻔한 결정이 AI 시대를 열었습니다

Lex Fridman: 이 결정에 대해 이야기해 줄 수 있나요? 당시에 회사가 그 비용을 감당할 수 없다는데 왜 CUDA를 GeForce에 넣었습니까?

Jensen Huang: 이것은 '생존과 사멸'에 가까운 결정이었습니다. 나는 말씀드릴 수 있습니다, 이것은 우리가 '존재 위협'에 가깝게 다가간 최초의 전략적 결정이었습니다.

Lex Fridman: 이해하지 못하는 사람들을 위해 설명해 주실 수 있나요. 이후에 이 결정은 회사 역사상 가장 위대한 결정 중 하나로 입증되었습니다. CUDA는 전체 AI 인프라의 핵심 계산 플랫폼으로 자리매김했습니다.

Jensen Huang:

네, 나중에 이것이 옳은 결정이었다는 것이 입증되었습니다. 당시의 논리는 다음과 같았습니다: 우리는 CUDA를 발명했고, 이로 인해 우리의 가속기가 다룰 수 있는 응용 프로그램 범위가 확대되었습니다. 그러나 문제는 개발자를 어떻게 유치할 것인가였습니다? 왜냐하면 계산 플랫폼의 핵심은 개발자이고, 개발자들은 어떤 플랫폼이 '재미있는'지로 오지 않을 것입니다. 그들은 설치되어 있는 플랫폼을 선택할 것입니다.

설치 수가 핵심 요소입니다. 개발자들도 모두 자신의 소프트웨어가 더 많은 사용자에게 도달하기를 바랍니다. 그래서 설치 수는 성공적인 아키텍처의 결정적 요소입니다. 한 아키텍처는 매우 비판적으로 평가될 수 있습니다. 예를 들어 x86은 우아하지 않다고 여겨지지만, 여전히 오늘날의 주류 아키텍처입니다. 왜냐하면 그 설치 수가 가장 크기 때문입니다.

반대로, 많은 RISC 아키텍처는 매우 우아하게 설계되었고 최고의 컴퓨터 과학자들에 의해 만들어졌지만 최종적으로 실패했습니다. 이는 한 가지를 보여줍니다: 설치 수가 아키텍처를 정의하며, 그 외 모든 것은 중요하지 않습니다.

당시에 CUDA는 OpenCL 등과 경쟁하고 있었습니다. 우리가 한 중요한 결정은: 설치 수가 가장 중요하다면, 이 새로운 아키텍처가 시장에 빨리 진입하도록 해야한다는 것입니다.

당시에 GeForce는 이미 매우 성공했고, 매년 수백만 개의 GPU가 선적되었습니다. 그래서 우리는 CUDA를 모든 GeForce에 넣기로 결정했습니다. 사용자가 사용하든 말든, 모든 PC에 CUDA를 넣었습니다. 이것이 설치 수를 가장 빠르게 확보하는 방법이었습니다.

동시에 우리는 대학을 방문하고 교재를 쓰고 강의를 열어, CUDA를 모든 곳에 가져갔습니다. 그 당시에는 PC가 주요한 계산 플랫폼이었고, 아직 클라우드가 없었습니다. 사실상 우리는 하나의 "슈퍼 컴퓨터"를 각 학생, 각 연구자의 손 안에 넣은 셈입니다.

그러나 문제는 GPU의 비용을 크게 증가시켰고, 거의 회사의 모든 총이익을 흡수했습니다. 당시 회사의 시가총액은 대략 6, 7 억 달러였는데, CUDA를 출시한 후 비용 상승으로 인해 시가총액이 15 억 달러로 떨어진 적도 있습니다. 우리는 그 당시에 매우 어려운 시기를 보냈지만 이겨냈습니다.

저는 항상 말했습니다, NVIDIA는 GeForce가 짓어 준 집이라고. 왜냐하면 정확히 GeForce가 모두에게 CUDA를 전달했기 때문입니다. 연구자, 과학자, 엔지니어들은 모두 GeForce를 통해 CUDA를 발견했습니다. 많은 사람들은 원래 게이머였으며, 자신만의 PC를 조립하여 연구실에 PC 구성 요소를 사용하여 클러스터를 구축했는데, 이것이 CUDA의 출발점이었습니다.

Lex Fridman: 그 후로 이것은 딥러닝 혁명의 기반 플랫폼이 되었습니다.

Jensen Huang: 맞습니다, 이는 매우 중요한 관찰입니다.

Lex Fridman: 당시에 "생존과 진퇴양난"에 가까운 순간, 내부에서는 어떻게 논의되었나요?

Jensen Huang: 우리가 무엇을 하고 있는지 이사회에 분명히 설명해야 했고, 경영진도 우리의 총이익이 심각하게 압축될 것임을 이해했습니다. 한 상황을 상상해보십시오: GeForce가 CUDA의 비용을 지고 있지만 게이머는 이 비용을 부담하지 않습니다. 그들은 고정 가격을 지불할 의향이 있지만 비용이 올라가면 더 지불하지 않습니다.

비용을 50% 인상했으며, 회사 자체의 총수익률은 35%에 불과하기 때문에 이는 매우 어려운 결정이었습니다. 그러나 우리는 미래를 예측할 수 있습니다: CUDA는 워크스테이션 및 슈퍼컴퓨터에 진입할 것이며, 이러한 분야에서 더 높은 이윤을 얻을 수도 있습니다. 논리적으로 자신을 설득하여 이것이 가능하다고 할 수 있지만, 실제로 그것을 실현하는 데는 10년이 걸렸습니다.

Lex Fridman: 하지만 그것은 대부분 이사회와의 의사소통에 관한 것입니다. 개인적인 관점에서, 이러한 '미래에 대한 베팅' 결정을 내리는 데 어떻게 해왔나요? NVIDIA는 계속해서 미래를 예측하고 심지어 미래를 정의하는 대담한 결정을 내렸는데, 그것을 어떻게 이루어내었나요?

Jensen Huang: 먼저, 저는 매우 강한 호기심을 갖고 있습니다. 그리고 나에게는 어떤 결과가 반드시 발생할 것이라고 매우 확신할 수 있는 추론 과정이 있습니다. 내 마음이 어떤 것인지 진정으로 믿게 되면, 그 미래는 매우 명확해지며 거의 일어나지 않을 수 없게 됩니다. 가운데에는 많은 고통이 있겠지만, 당신은 당신이 믿는 것을 믿어야 합니다.

Lex Fridman: 그래서 당신은 먼저 미래를 머릿속에 그려놓고, 그것을 엔지니어링 방식으로 실현하시는 건가요?

Jensen Huang:

네. 그 곳에 도달하는 방법과 그것이 반드시 존재해야하는 이유를 추론하게 됩니다. 우리는 반복적으로 추론하고, 경영진도 참여할 것이며, 우리는 이 문제에 많은 시간을 투자할 것입니다.

다음은 매우 중요한 능력입니다. 많은 리더들은 먼저 침묵하고 배우고, 그런 다음 어느 날 갑자기 '선언'을 내놓습니다. 새해에는 대대적으로 조정하거나 대규모 인원을 감축하거나, 조직을 재편하거나, 새로운 미션을 선언하거나, 새로운 로고를 내놓습니다. 하지만 저는 그렇게 하지 않습니다.

어떤 일이 중요하다는 것을 깨닫게 되면, 제 주변 사람들에게 즉시 말합니다: 이것은 매우 중요합니다, 영향을 미칠 것입니다. 하나씩 명확하게 설명하게 됩니다. 많은 경우 결정은 이미 내렸지만, 새로운 정보, 새로운 통찰, 새로운 엔지니어링 진전을 활용하여 계속해서 사람들의 인지를 형성합니다.

저는 매일 이러한 일을 하고 있습니다, 이사회에게, 경영진에게, 직원들에게도요. 저는 그들의 신념 체계를 계속해서 형성해 나갑니다. 따라서 날이 갈수록 "우리가 Mellanox를 인수해야 한다"고 말할 때, 모든 사람이 이것이 명백한 결정이라고 느낄 것입니다.

"우리가 딥러닝에 온 힘을 기울여야 한다"고 말할 때, 실제로는 이미 준비를 많이 해왔습니다. 제대로 발표할 때는 오히려 많은 사람들이 "지금 왜 말하냐?"고 말하게 됩니다.

어떤 의미에서는 '뒤로서 분명' 한 것처럼 보일 수 있지만, 실제로 여러분의 합의를 계속해서 형성하고 있습니다. 모두가 함께 가기를 원하며, 아무도 이해하지 못하는 결정을 갑자기 발표하지 않습니다.

Lex Fridman: 그리고 당신은 회사 내부에서만이 아니라 전체 산업을 형성하고 있습니다.

Jensen Huang:

사실 우리는 컴퓨터를 직접 판매하지 않고, 클라우드를 직접 판매하지 않습니다. 우리는 컴퓨팅 플랫폼 기업입니다. 우리는 각 층에서 수직 통합 디자인을 하지만 동시에 각 층에서 개방되어 다른 기업이 제품, 서비스, 클라우드 및 슈퍼 컴퓨터에 통합할 수 있게 합니다.

그래서 전체 산업을 먼저 설득하지 못하면 나의 제품은 실현되지 않습니다. 이것이 GTC가 매우 중요한 이유이며, 그것은 "미래를 미리 보는" 것입니다. 우리가 제품을 실제로 출시할 때 사람들은 "지금서야 왜 하는 거죠?"라고 말할 것입니다.

AI가 왜 점점 더 "돈을 태우는가"? 네 가지 Scaling이 중첩

Lex Fridman: 당신은 오랫동안 스케일링 법칙을 믿어왔는데, 지금도 믿으십니까?

주： 스케일링 법칙은 특정 핵심 변수를 계속 확장할 때 시스템 성능이 상대적으로 안정적이고 예측 가능한 규칙에 따라 향상된다는 것을 의미합니다. AI에서는 보통 "모델이 커지면, 데이터가 많아지고, 연산 능력이 강화될수록 모델 능력도 강화된다"를 의미합니다.

Jensen Huang: 물론이죠, 그리고 지금은 더 많은 스케일링 법칙이 있습니다.

Lex Fridman: 당신은 이전에 네 가지를 언급했습니다: 사전 훈련, 사후 훈련, 추론 단계 및 수행 주체화 스케일링. 미래를 전망할 때, 단기적이든 장기적이든, 어떤 잠재적 "병목"이 당신이 정말로 걱정하는 것이며, 해결해야 한다고 생각하는 문제는 무엇이며, 심지어 잠 못 이루게 만드는 것이 무엇인가요?

Jensen Huang: 우리는 예전에 생각한 "병목"을 다시 살펴볼 수 있습니다.

우선은 사전 훈련 스케일링이었는데, 사람들은 고품질 데이터가 제한적일 경우 AI의 지능 향상이 제한될 것이라고 생각했습니다. 일리야 숫스케버조차 "우리는 이제 거의 데이터가 없어졌다"고 말했고 산업은 한동안 공포에 떨었습니다. 그러나 실제로는 그게 사실이 아니었습니다. 우리는 계속해서 데이터 출처를 확장할 것이며, 이 중 상당 부분은 합성 데이터일 것입니다. 실제로 인간 간의 정보 전달은 본질적으로 "합성된" 것이기도 합니다. 당신은 콘텐츠를 창출하고, 나는 그것을 소비하고, 다시 가공하여 전파합니다. 지금 AI는 실제 데이터에서 시작하여 확장되고, 향상되며, 대량의 데이터를 생성할 수 있습니다. 따라서 사후 훈련 단계는 여전히 확장 중에 있습니다. 미래의 모델 훈련 제약은 더 이상 데이터가 아니라 연산 능력이 될 것입니다.

참고: Ilya Sutskever는 OpenAI 공동창업자이자 전 신규 과학자로, 딥러닝 분야의 주요 추진자 중 한 명으로, AlexNet 등의 주요 기술 돌파에 참여하였으며 대규모 모델 및 AI 확장 방향에 큰 영향을 주었습니다.

다음은 추론 단계입니다. 이전에 많은 사람들이 추론이 매우 쉽다고 생각했습니다. 어렵다고 생각한 것은 훈련이었습니다. 그러나 실제로 이는 합리적이지 않습니다. 왜냐하면 추론은 본질적으로 "사고"이며, 사고는 "독서"보다 훨씬 어렵습니다. 훈련은 기억과 패턴 인식에 더 가깝습니다. 반면 추론에는 추론, 계획, 검색, 문제 분해가 관련되어 있어 많은 계산이 필요합니다. 실제로 초기 판단이 맞았음이 입증되었으며, 추론 계산은 매우 밀집되어 있음이 입증되었습니다.

또 다음은 'agent scaling'입니다. 우리는 더 이상 하나의 모델이 아니라 '에이전트 시스템'이 되었습니다. 이는 도구를 호출하고 데이터베이스에 액세스하며 하위 에이전트를 생성할 수 있는 시스템입니다. 이는 회사와 같으며 한 사람의 능력을 향상시키는 대신 팀을 확대하는 것이 더 용이합니다. AI도 마찬가지로 빠르게 복제하고 확장할 수 있습니다. 따라서 이것은 새로운 확장 법칙입니다.

이러한 과정은 순환 구조를 형성합니다: 에이전트가 데이터를 생성하고, 데이터가 사전 훈련에 반환되어, 그리고 후속 훈련에 들어가며, 그리고 추론에 진입하여, 다시 에이전트 시스템으로 이어지는 계속적인 과정입니다. 궁극적으로, 지능적인 성장은 핵심 변수 하나로 귀결됩니다: 연산 능력.

Lex Fridman: 그러나 여기에는 한 가지 어려움이 있습니다. 이러한 변화를 미리 예상해야 합니다. 왜냐하면 각 단계마다 MoE 아키텍처, 희소성 등과 같이 서로 다른 하드웨어가 필요하기 때문입니다. 그러나 하드웨어 사이클은 몇 년이 걸리며 언제든지 조정할 수는 없습니다.

Jensen Huang: 맞아요. AI 모델 아키텍처는 대략 6개월에 한 번씩 바뀝니다. 시스템 아키텍처와 하드웨어는 대략 3년에 한 번씩 바뀝니다. 따라서 미래를 미리 예측해야 합니다. 우리의 방법은 세 가지가 있습니다: 첫째, 우리 자체 연구, 기본 연구 및 응용 연구를 포함한, 우리 자체 모델을 만듭니다. 둘째, 거의 모든 AI 기업과 협력하여 그들의 도전을 이해합니다. 셋째, 우리는 CUDA와 같이 충분히 유연한 아키텍처를 구축합니다. CUDA는 효율적이면서도 유연한데요.

예를 들어 MoE가 등장한 후, 우리는 NVLink 72를 출시하여 1조 개의 매개변수 모델을 하나의 GPU로 실행할 수 있게 했습니다. Grace Blackwell 및 Vera Rubin 메카니즘도 마찬가지인데, 전자는 LLM 추론을 위해 설계되었고 후자는 에이전트 시스템을 위해 설계되었습니다.

참고: Grace Blackwell 메카니즘은 NVIDIA가 대규모 모델 학습과 추론을 위해 선보인 전체 시스템 AI 컴퓨팅 시스템으로, Grace CPU와 Blackwell GPU를 고대역으로 깊게 결합하여 'AI 공장'의 핵심 연산 능력 단위로 작동합니다. Vera Rubin 메카니즘은 NVIDIA의 Blackwell 이후 다음 세대 AI 인프라 아키텍처로, 더 복잡한 에이전트 시스템 및 대규모 추론 시나리오를 대상으로 하며, 시스템 수준의 협동과 보다 높은 효율성을 강조합니다.

Lex Fridman：그러나 이러한 디자인은 Claude Code, Codex, OpenClaw이 등장하기 전에 이미 완성되었다. 이것을 어떻게 예측했나요?

Jensen Huang：사실 어렵지 않아요. 단순히 추론할 뿐이에요. LLM이 “디지털 직원”이 되기 위해서는 실제 데이터에 접근하고 연구를 하며 도구를 사용해야 합니다. 그러므로 I/O 시스템이 있어야 하고, 도구를 호출해야 합니다. 누군가 AI가 소프트웨어를 대체할 것이라고 말했습니다. 이것은 사실이 아닙니다. 마치 로봇처럼, 그것은 손을 망치나 메스로 바꾸는 대신 도구를 사용하게 됩니다. 처음에 사용하지 못할 때에는 괜찮아요, 설명서를 읽을 수 있고 빨리 배울 거예요. 그러므로 이러한 능력들은 필연적입니다.

이러한 추론을 하면 실제로 우리가 컴퓨터를 다시 발명했다는 것을 알게 될 것입니다. 2년 전 GTC에서 제가 이야기한 에이전트 아키텍처는 오늘날 거의 OpenClaw와 완벽하게 부합합니다. OpenClaw가 에이전트에 대한 의미는 마치 ChatGPT가 생성 모델 AI에 대한 의미와 같습니다.

Lex Fridman：정말 특별한 순간입니다.

Jensen Huang：맞아요.

Lex Fridman：그러나 여기에는 또 다른 문제가 있습니다. 기술이 굉장히 강력해질 때, 보안 위험을 초래할 수도 있습니다. 우리는 개인적으로, 사회적으로 균형을 찾으려고 노력하고 있습니다.

Jensen Huang：맞아요, 우리는 즉시 많은 보안 전문가들을 투입하여 이 문제를 연구했습니다. 우리는 OpenShell이라는 시스템을 만들어서 현재 OpenClaw에 통합시켰습니다. 동시에 NVIDIA는 NemoClaw를 출시했습니다.

Lex Fridman：네, 그것을 설치하는 것도 매우 간단하며 시스템 안전을 보장할 수 있습니다.

Jensen Huang：우리는 한 가지 원칙을 제시했습니다. 언제나, 세 가지 능력 중에는 두 가지만 소유할 수 있어야 합니다. 민감한 데이터에 액세스하기, 코드 실행하기, 외부 통신하기입니다. 세 가지 능력을 동시에 가지고 있으면 위험을 초래합니다. 그래서 우리는 이러한 “찬스리” 방식으로 안정성을 보장합니다. 또한 기업급 액세스 제어와 정책 엔진을 추가하여 기업이 자체 권한 체계에 따라 관리할 수 있도록 했습니다. 우리는 OpenClaw를 보다 안전하고 관리 가능하도록 만들기 위해 최선을 다하겠습니다.

AI의 끝은 알고리즘이 아니라 전기입니다

Lex Fridman：당신은 방금 이전에는 병목 현상으로 간주되었던 많은 것이 뒤늦게 깨진 것들에 대해 이야기했습니다. 그렇다면 지금 agent가 어디에나 존재하는 미래를 고려할 때, 실제 병목 현상은 무엇인가요?

Jensen Huang：전력은 문제지만 유일한 문제는 아닙니다. 이것이 우리가 극한 협업 설계에 그토록 많은 노력을 기울이는 이유입니다. 우리는 지속적으로 "와트당 토큰 수" 효율성을 향상시키려고 합니다. 지난 10년 동안 무어의 법칙은 대략 계산 능력을 100배로 향상시켰지만, 우리는 시스템 수준의 확장으로 계산 능력을 백만 배로 향상시켰습니다. 우리는 미래에도 이를 계속할 것입니다. 효율성은 기업의 수입뿐만 아니라 "AI 공장"의 수입에도 직접적으로 영향을 미칩니다. 하드웨어 가격은 상승하고 있지만, 토큰 생성 효율성은 더 빨리 향상되고 있으므로 토큰 비용은 사실상 매년 1개 수준씩 감소하고 있습니다.

Lex Fridman：따라서 효율성을 향상시키는 것은 한 가지 방향이고 더 많은 전력을 확보하는 것은 다른 방향입니다. 예를 들어 소형 핵 반응로 등입니다. 그렇다면 공급망에 대해 걱정하나요? 예를 들어 ASML의 EUV 광장비, TSMC의 고급 패키징, SK hynix의 고대역 메모리와 같은 것들?

Jensen Huang：나는 매일 이러한 문제들을 주시하고 계속 처리하고 있습니다. 우리처럼 고속 성장하면서 가속화하는 회사는 다른 회사에 없습니다. 이것은 이해하기 어렵습니다. AI 컴퓨팅 시장에서 우리의 시장 점유율은 계속 확대되고 있으므로 공급망의 상하류는 매우 중요합니다. 나는 이러한 회사들의 CEO들과 많은 시간을 보내며 미래에 무엇이 발생할 것인지, 어디에 성장 동력이 있는지를 알려주고 있습니다. 당신이 GTC에서 본 그 CEO들의 줄은 거의 전체 IT 상류 및 인프라 하류를 포괄하는데요. 나는 그들에게 현재 비즈니스 상황, 미래 성장 기회, 다가올 일들에 대해 말하며 그들이 이를 근거로 투자 결정을 내리도록 돕습니다.

나는 그들을 직접 방문하여 앞으로 몇 분기, 앞으로 일년, 앞으로 몇 년 동안 어떤 일이 발생할지 알려주곤 합니다. 예를 들어 DRAM 산업에 대해 언급하자면, 세 년 전에 나는 고대역폭 메모리(HBM)가 데이터 센터의 표준 메모리가 될 것이라고 말했습니다. 당시에는 매우 터무니없이 들렸지만, 일부 CEO들은 믿고 투자하기 시작했습니다. 또한 휴대전화용 저전력 메모리(LPDDR)를 데이터 센터에 도입하도록 권유했습니다. 이제 이러한 기술은 큰 성공을 거두고 있습니다.

Lex Fridman：따라서 당신은 NVIDIA뿐만 아니라 전체 공급망의 미래를 형성하고 있는 것이죠.

Jensen Huang：예, 상류와 하류가 모두 함께합니다.

Lex Fridman：하지만 해당 공급망은 정말 너무 복잡하며, 깊은 과학, 공학, 제조, 수백 개의 공급업체가 관련돼 있어 매우 취약한 느낌입니다.

Jensen Huang：정말로 매우 복잡합니다. 우리의 한 대의 랙(rack)에는 대략 1.3백만 개의 구성 요소가 있으며, 200개 이상의 공급업체가 관련되어 있습니다. 이는 극히 복잡한 시스템입니다.

Lex Fridman：그러나 당신은 공급망을 주요 병목 현상으로 보지 않는 것으로 보여요?

Jensen Huang：그렇기 때문에 저는 이러한 모든 것들을 하나하나 실행했기 때문에 안심하고 잘 수 있어요. 우리는 첫 번째 원리부터 시작하여 추론해 나갑니다: 시스템 아키텍처 변화가 무엇을 의미하는가? 소프트웨어는 어떻게 변화하는가? 엔지니어링 프로세스는 어떻게 변화하는가? 공급망은 어떻게 변화하는가? 예를 들어, NVLink 72 러커브, 슈퍼 컴퓨터 통합을 데이터 센터 내부에서 공급망 끝으로 옮겼습니다. 이전에는 구성 요소가 데이터 센터로 운송되어 조립되었지만, 지금은 공급망에서 직접 완전한 시스템으로 조립되어 운반됩니다.

이는 공급망 자체가 보다 강력한 제조 능력을 갖추어야 한다는 것을 의미하며, 대규모의 전력 테스트를 지원해야 합니다. 우리는 이러한 시스템을 테스트하기 위해 기가급의 전력 능력이 있는 공급망이 필요합니다. 그래서 저는 공급업체와 직접 대화하여 미래 요구 사항을 알리고 그들이 수십억 달러 규모의 자본을 투자할 수 있도록 합니다. 그들은 저를 믿고 있고, 저 또한 이러한 변화를 이해하기 위해 충분한 정보와 시간을 제공합니다.

Lex Fridman：그렇다면 특정 병목 현상을 걱정하나요? 예를 들어 EUV, 패키징 능력 등?

Jensen Huang：아니요. 왜냐하면 저는 이미 그들에게 필요한 것을 말했고, 그들은 어떻게 할 것인지 말해주었으며, 나는 그들을 믿습니다.

Lex Fridman：그럼 우리는 다시 전력 문제로 돌아가볼까요. 전력 문제를 어떻게 보시나요?

Jensen Huang：제가 주목하길 바라는 중요한 사실이 있습니다: 우리의 전력망은 "최악의 상황"을 고려하여 설계되었습니다, 즉 극한 날씨 시 기간에 최대 수요량을 고려한 것입니다. 그러나 실제로 99%의 시간 동안은 이 수요량에 도달하지 않고, 대부분의 시간은 60% 정도에서 운영될 것입니다. 이는 대부분의 시간에 전력망에는 많은 여분 용량이 있다는 것을 의미합니다. 그러나 이러한 용량은 중요한 순간에 병원, 공항 등 기반 인프라가 전기를 공급받을 수 있어야 하기 때문에 필요합니다.

그래서 저는 고민 중인데, 전력망이 최대 부하를 필요로 할 때 데이터 센터가 전력을 줄이고; 대부분의 시간에는 이 여유 전력을 활용할 수 있을까요? 예를 들어 데이터 센터는 피크 시간에 성능을 낮추고 작업을 이전하거나 일시적으로 서비스 품질을 낮출 수 있습니다. 이렇게 하면 전력망을 더 효율적으로 활용할 수 있을 것입니다.

그러나 현재의 문제는 세 가지 측면에 있습니다: 첫째, 고객은 데이터 센터가 100% 가용해야 한다고 요구합니다; 둘째, 데이터 센터의 설계는 이러한 동적 저하를 지원해야 합니다; 셋째, 전력 회사도 보다 유연한 전력 공급 방식을 제공해야 합니다. 이 세 가지 모두가 이루어지면 전력 이용 효율을 크게 향상시킬 수 있습니다.

그래서 나는 미래에 우리가 컴퓨터를 사용하고 데이터 센터를 구축하는 방식이 100% 가동 시간을 무조건 요구하는 대신, 사실은 이미 유휴되어 있는 여분 전력을 활용하려는 것이어야 한다고 생각합니다. 현재 이러한 매우 엄격한 계약들은 사실상 전력망에 많은 압력을 가하고 있습니다. 왜냐하면 이러한 계약들은 전력망이 피크 수요를 충족하는 것뿐만 아니라 이를 기반으로 계속 성장해야 한다고 요구하기 때문입니다. 그러나 저는 정말 활용하고 싶은 것은 이미 유휴되어 있는 여분 전력의 그 부분뿐입니다.

Lex Fridman: 이 점에 대해 실제로 충분히 논의되지 않았습니다. 그렇다면 현재의 장애요소는 무엇이라고 생각하십니까?

Jensen Huang: 저는 이것이 삼자 문제라고 생각합니다.

먼저 종단 사용자입니다. 종단 사용자는 데이터 센터에게 이러한 요구사항을 제시합니다: 당신은 절대로 다운되면 안 되며, 절대로 사용할 수 없어서는 안 됩니다. 다시 말해, 고객들이 기대하는 것은 완벽한 것입니다. 그러나 이러한 완벽을 달성하기 위해서는 백업 발전기가 필요하고, 전력 회사도 거의 완벽에 가까워야 합니다. 그래서 모든 단계에서 "6개 9"를 추구해야 합니다.

참고: "6개 9"는 99.9999%의 가용성을 의미합니다.

그래서 나는 첫 번째로, 모든 고객과 모든 CEO가 자기 자신이 정확히 무엇을 요구하는지 실제적으로 깨닫도록 해야 한다고 생각합니다. 많은 경우, 이러한 계약을 체결하는 사람은 사실상 CEO와는 아주 멀리 떨어진 데이터 센터 운영 팀의 일원이며, 그리고 CEO 사이의 격차가 큽니다. 내기를 할 텐데, 많은 CEO가 이러한 계약 조항이 무엇인지 전혀 모르는 것 같습니다. 나는 그들과 이야기하기로 했습니다.

이러한 CEO들은 이러한 서명 중인 계약들에 대해 실제로 주의를 기울이지 않았을 가능성이 큽니다. 모두가 최고의 계약을 체결하고 싶어하는 것은 물론 이해할 수 있습니다. 그런 다음 이러한 요구 사항들이 계속 전달되어 클라우드 공급 업체에 도달하고, 클라우드 공급 업체가 공용사업 제공업체에게 요청을 전달하므로 전체 공급망이 모두 "6개 9"를 요구합니다. 그러므로 첫 번째 단계는 고객 및 CEO가 자신이 무엇을 원하는지 제대로 이해하도록 하는 것입니다.

두 번째로, 우리는 "우아한 저하"가 가능한 데이터 센터를 구축해야 합니다. 다시 말해, 전력망이 "너희들은 전력 사용량을 80%로 줄여야 한다"고 말하면, 우리는 "문제 없습니다."라고 말할 수 있어야 합니다.

우리는 작업 부하를 재조정할 것입니다. 데이터가 결코 손실되지 않도록 하겠지만, 연산 속도를 낮추고 전력을 적게 사용할 것입니다. 서비스 품질은 약간 떨어질 것입니다. 가장 중요한 작업 부하에 대해서는 즉시 다른 곳으로 이동시키겠으며, 그렇게 하면 영향을 받지 않을 것입니다. 따라서, 어떤 데이터 센터가 계속해서 100% 가동 시간을 유지할 수 있는지는 그곳이 가장 중요한 부분을 맡아야 합니다.

Lex Fridman: 그렇다면 이러한 지능적이고 동적인 전력 할당이 데이터 센터에 대해 어느 정도의 공학 난이도를 가지고 있는지요?

Jensen Huang：문제를 명확히 정의할 수 있다면, 그것을 공학화할 수 있습니다. 당신은 문제를 정말 잘 물었습니다. 그가 첫 번째 원칙의 물리적 법칙 수준에 부합한다면, 우리는 그것을 이룰 수 있다고 생각합니다.

Lex Fridman：당신은 방금 세 가지를 언급했습니다. 세 번째는 무엇이었죠?

Jensen Huang：두 번째는 데이터 센터 자체이고, 세 번째는, 공공 시설 기업이 또한 이것이 사실은 기회라는 것을 깨달아야 한다는 것입니다.

그들은 항상 이런 식으로 말할 수 없습니다: "다섯 년을 기다려야만 전력망 용량을 그 수준으로 확장할 수 있습니다." 만약 여러분이 이 수준의 전력 공급 보장을 받아들일 수 있다면, 그러면 실제로 다음 달에도 이 가격으로 여러분에게 전력을 공급할 수 있습니다.

그러므로 공공 시설 기업이 더 많은 수준의 전력 공급 약속을 제공할 수 있다면, 나는 시장 자체가 해당하는 해결책을 찾을 것이라고 생각합니다. 지금 전력망에서의 낭비는 매우 많습니다, 우리는 그것을 활용해야 합니다.

Lex Fridman：이전에 당신은 Elon Musk가 Memphis에 Colossus 초급계산기를 구축할 능력을 매우 높게 평가했습니다. 그의 방법론에서 빌릴만한 가치가 있다고 생각하시나요?

Jensen Huang：Elon이 관여하는 분야는 매우 다양하지만, 그는 매우 강력한 시스템 사고자입니다. 너무 장기적인가요? 여야 합의해야 합니까? 왜 그렇게 오래 걸릴까요? 그는 시스템을 최소한의 필요 복잡성으로 압축하고 핵심 능력을 유지합니다.

그 또한 극도로 "현장에서"인 인물이며, 문제가 발생하면 그 곳에 갑니다. 그는 많은 "관행"과 "프로세스"를 깨고 일을 진정으로 전진시킵니다. 또한 그의 긴급함은 전체 공급망에 전달됩니다. 그는 모든 공급 업체가 자신을 최우선 순위로 두도록 만들며, 이것은 매우 중요합니다.

Lex Fridman：NVIDIA의 공동 설계 과정에서도 유사한 방법이 있나요?

Jensen Huang：공동 설계 자체가 시스템 엔지니어링의 극치 형태입니다. 우리에게는 "빛의 속도 아이디어"라는 철학이 있습니다. 이것은 속도뿐만 아니라 물리적 한계에 관한 것입니다. 우리는 모든 문제를 물리적 한계와 대조합니다: 메모리 속도, 계산 속도, 소비 전력, 비용, 시간, 제조주기 등등. 먼저 물리적 한계에서 이것이 얼마나 가능한지 물어보고, 그런 다음 현실에서 선택을 합니다.

저는 "지속적 최적화" 방식이 별로 좋아하지 않습니다. 특정 프로세스가 지금 74일이 걸린다고 말하면 72일까지 최적화할 수 있다고 말하는 사람이 있습니다. 저는 그걸 받아들이지 않습니다. 저는 왜 74일이 되는지 처음부터 물어보곘습니다. 처음부터 설계하면 이제 얼마나 할 수 있을까요? 많은 경우에 대답은 6일 정도입니다. 그런 다음 남아 있는 68일이 왜 있는지 이해해야 합니다.

Lex Fridman：이렇게 복잡한 시스템에서도 "간단함" 원칙은 여전히 중요한가요?

Jensen Huang：물론입니다. 우리가 추구하는 것은 "필요한 복잡성"과 "가능한 한 간단함"입니다. 우리는 계속해서 이 질문을 하고 있어야 합니다: 이 복잡성이 필요한가요? 불필요하다면 제거해야 합니다.

Lex Fridman：하지만 여러분의 시스템은 이미 극도로 복잡하죠. 예를 들어 베라 루빈 팟은 수조 개의 트랜지스터와 수천 개의 GPU가 있는데요.

Jensen Huang：맞아요, 이것은 세계에서 가장 복잡한 컴퓨터 시스템입니다.

Lex Fridman：정말 흥미롭군요. 최근에 중국에 다녀오셨다고 들었습니다. 그래서 궁금한 게 있는데, 지난 10년 동안 중국은 기술 산업에서 놀라운 성장을 이루었습니다. 그들이 이 짧은 시간에 세계 수준의 기업들, 세계 수준의 엔지니어링 팀, 그리고 놀라운 제품을 꾸준히 내놓는 기술 생태계를 어떻게 구축했는지 궁금합니다.

Jensen Huang：

여러 이유가 있습니다. 몇 가지 기본적인 사실부터 시작하죠. 세계적으로 약 절반의 AI 연구자가 중국인인데, 대부분이 중국에 남아 있습니다. 우리 쪽에도 많지만 중국 내 지역에서 여전히 많은 우수한 연구자가 있습니다. 중국의 기술 산업은 매우 중요한 시기에 등장했는데—모바일 인터넷과 클라우드 컴퓨팅 시대입니다. 그들의 주요 기여 경로는 소프트웨어이며, 그 나라는 과학과 수학 교육이 매우 견고하며 청년층의 교육 수준이 매우 높습니다. 소프트웨어 시대에 자란만큼 현대 소프트웨어 시스템에 대해 매우 잘 알고 있습니다.

또한 중국은 하나의 단일 경제체가 아니라 여러 지방 및 도시로 이루어져 있어 각 지역 간에 경쟁 관계가 존재합니다. 그래서 전기 자동차 회사가 많고 AI 회사가 많으며 거의 모든 산업에 비슷한 일을 하는 많은 회사들을 볼 수 있는 것입니다. 이러한 내부 경쟁은 매우 치열하며 결국 남는 것은 매우 우수한 회사들입니다.

동시에 그들의 사회 문화는 "가족 우선, 친구 다음, 회사 마지막"입니다. 이러한 구조 속에서 서로 다른 회사 간의 정보 공유가 매우 빈번히 일어나며 본질적으로는 계속해서 개방된 상태에 있습니다. 따라서 그들의 오픈 소스에 대한 투자가 더 크게 이루어지곤 하는데, 자연스럽게 "우리가 무엇을 보호하고 있는 걸까?" 라고 생각할 것입니다. 엔지니어들 간에는 많은 중복 관계가 존재하는데—친척, 친구, 동창들은 거의 평생 친구 관계인데, 이로 인해 지식이 매우 빠르게 퍼지며 기술 자체가 강력한 폐쇄 동기를 갖지 않으므로 오히려 오픈 소스가 더욱 효율적입니다. 그리고 오픈 소스 커뮤니티는 혁신 과정을 더욱 확대하고 가속화시킵니다.

따라서 우수한 인재, 오픈 소스 주도의 신속한 혁신, 높은 사회적 연결성, 그리고 매우 치열한 경쟁이 결합되어 매우 강력한 기술 성과를 낳습니다. 이 관점에서 볼 때 중국은 현재 세계에서 가장 빠른 혁신 속도를 자랑합니다. 이 모든 것의 뒤엔 교육 제도, 가정에서의 학습 강조, 문화 구조, 그리고 그들이 정확히 기술이 지수 함수적으로 발전하는 중요한 시기대에 있는 이유가 있습니다.

Lex Fridman: 문화적으로 엔지니어가 되는 것이 매우 "멋진" 일이라는 것을 보면서.

Jensen Huang: 네, 이것은 "엔지니어형 국가"입니다. 미국의 많은 리더들은 법률적 배경을 갖고 있는데, 이는 통치와 제도 안정을 위한 것이지만, 중국의 많은 리더들은 매우 우수한 엔지니어입니다.

Lex Fridman: 방금 오픈 소스에 대해 언급하셨는데, 그에 대해 이야기해 볼까요. 당신은 항상 Perplexity를 높이 평가하고 계신 것으로 알고 있습니다.

Jensen Huang: 매우 좋아합니다.

Lex Fridman: 또한 NVIDIA가 Nemotron 3 Super를 오픈 소스화해 주셔서 감사합니다. 이 1200 억 개 파라미터의 MoE 모델은 이제 Perplexity에서도 사용할 수 있습니다. 오픈 소스의 장기적인 의미에 대해 어떻게 생각하시나요? 중국의 DeepSeek, MiniMax와 같은 기업들이 AI 오픈 소스를 촉진하고 있고, NVIDIA도 SOTA에 가까운 오픈 소스 모델을 제공하고 있는데, 전반적인 판단은 어떠신가요?

Jensen Huang: 우선, 우수한 AI 컴퓨팅 회사가 되기 위해서는 모델이 어떻게 진화해 왔는지를 이해해야 합니다. Nemotron 3에서 매우 좋은 점은 순수한 Transformer가 아닌 Transformer와 SSM의 조합입니다. 우리는 조건부 GAN, 프로그레시브 GAN에도 초기에 투자했는데, 이러한 경로들이 확산으로 이어졌습니다. 모델 아키텍처와 기초 연구에서의 이러한 축적으로 인해 우리는 미래 모델이 어떤 계산 시스템이 필요한지 미리 예측할 수 있었으며, 이것 자체가 우리의 "극한 협력적 설계"의 부분이었습니다.

둘째, 우리는 제품으로 세계적인 모델을 보유해야 할 필요가 있는데, 이러한 모델은 독점적일 수 있습니다. 그러나 다른 한편으로는 AI가 모든 산업, 모든 국가, 모든 연구자와 학생들에게 확산되기를 희망합니다. 모든 것이 폐쇄적이라면 연구를 진행하기가 어렵고, 여기에서 계속 혁신하는 것도 어려울 것입니다. 따라서 많은 산업들에게 있어 오픈 소스는 AI 혁명에 참여하는 필수 조건입니다. NVIDIA는 규모와 모티베이션을 갖고 있어서 이러한 모델을 장기적으로 지속적으로 개발할 수 있으며, 우리는 전체 생태계를 촉진하고 더 많은 사람들이 참여할 수 있도록 능력을 갖췄습니다.

세 번째로, AI는 언어뿐만이 아닙니다. 미래의 AI는 도구, 서브 모델을 호출하며 생물학, 화학, 물리학, 유체역학, 열역학 등 다양한 모드를 포함하며 이러한 모드는 모두 언어 형식으로만 존재하는 것은 아닙니다. 따라서 날씨 예측, 생물 AI, 물리 AI 등의 분야를 계속 발전시키고 전방위에 접근하는 데 이바지하는 사람들이 있어야 합니다. 우리는 차량을 제조하지는 않지만 모든 자동차 회사가 최고의 모델을 사용할 수 있기를 희망합니다. 우리는 의약품 연구를 하지는 않지만, 롯데의 경우와 같이 최고의 생물 AI 시스템을 보유할 수 있기를 바랍니다.

그래서 AI의 폭, AI의 보급, 그리고 AI와 계산 아키텍처의 공동 발전 이 세 가지 측면에서 오픈 소스는 필수적입니다.

Lex Fridman: 다시 한 번 Nemotron 3를 오픈 소스로 공개한 데 대해 감사드립니다.

Jensen Huang: 우리가 모델을 오픈 소스로 공개하는 것뿐만이 아니라, 가중치, 데이터 및 구축 방법도 오픈 소스로 공개했습니다.

Lex Fridman: 정말 대단합니다.

Jensen Huang: 감사합니다.

Lex Fridman: 당신은 대만에서 태어났으며 TSMC와 장기 협력 관계를 갖고 있습니다. 대만 반도체의 문화를 어떻게 이해하고 그들이 어떻게 독특한 성공을 거두었는지에 대해 묻고 싶습니다.

Jensen Huang: TSMC에 대한 외부의 가장 큰 오해는 그들의 핵심이 기술뿐이라는 것입니다. 물론 그들의 기술은 매우 강력합니다. 트랜지스터, 금속 층, 고급 패키지, 3D 패키징 및 실리콘 광학 등을 포함합니다. 그러나 그들을 독특하게 만드는 것은 전반적인 산업 수요에 대한 조정 능력입니다.

그들은 세계 수백 개의 고객사가 지속적으로 변화하는 요구사항에 동시에 대응해야 합니다: 주문의 증감, 고객 전환, 긴급 추가 주문, 생산 중지, 재개 등등. 이렇게 고도로 동적인 환경에서도 그들은 여전히 고 처리량, 고 품질율, 낮은 비용 및 매우 높은 수준의 서비스를 유지할 수 있습니다.

그들은 약속을 매우 심각하게 받아들입니다. 그들이 웨이퍼를 특정 시간에 납품할 것이라고 말하면 정확히 그렇게 합니다. 이는 곧 고객 기업의 운영과 직결됩니다. 그래서 그들의 제조 시스템 자체가 기적이라고 말할 수 있습니다.

두 번째로, 문화입니다. 그들은 한편으로 기술을 전진시키고, 다른 한편으로는 고객 중심성을 강조합니다. 많은 회사들이 이 중 하나만 잘할 수 있지만, 그들은 두 가지 모두를 세계적인 수준으로 실현했습니다.

세 번째로는, 신뢰라는 무형 자산입니다. 이 점은 매우 중요합니다. 나는 내 회사를 완전히 그들 위에 구축할 수 있습니다. 이러한 신뢰는 장기적인 협력을 통해 축적되어온 것입니다.

Lex Fridman: 이 신뢰는 장기적인 협력뿐만 아니라 인간 간 관계에서도 나옵니다.

Jensen Huang: 네. 우리는 30년 동안 협력해 왔으며, 수십 억 달러에 이르는 비즈니스를 진행해 왔지만, 우리 사이에는 심지어 계약이 없습니다.

Lex Fridman: 정말 놀랍네요. 2013년 TSMC 창업자인 Morris Chang이 당신을 CEO로 초빙했다는 이야기가 있는데, 이 사실인가요?

Jensen Huang: 사실입니다. 전 매우 영광이었지만, 그 당시에도 NVIDIA가 하는 일이 매우 중요하다는 것을 명확히 이해하고 있었습니다. 미래에 어떤 모습이 될지 이미 보았고, 그것이 가져다 줄 영향도 보았습니다. 이것이 제 책임이었으며, 그것을 이루어야만 했습니다. 그래서 제가 거절했습니다. 이 기회가 중요하지 않았기 때문이 아니라 제가 떠날 수 없었기 때문입니다.

Lex Fridman: 저는 NVIDIA와 TSMC가 모두 인류 역사상 가장 위대한 회사 중 하나라고 생각합니다.

Jensen Huang: 감사합니다.

Lex Fridman: 한 가지 질문을 해야겠어요. 기술 산업에서 흔히 하는 말을 빌리면, 여러분의 최대 "난초"는 무엇인가요? 즉, 경쟁을 억제하는 핵심적인 강점은 무엇인가요?

Jensen Huang:

가장 핵심적인 것은 저희의 컴퓨팅 플랫폼 규모, 즉 CUDA의 보급량입니다. 이것은 20년 전에는 우리가 갖고 있지 않았던 우세함이었지만, 오늘날에는 상황이 완전히 다릅니다. 비슷한 CUDA 기술을 개발하는 사람이 나타나도 현재의 상황을 바꾸기는 매우 어려울 것입니다. 핵심은 기술 자체가 아니라 장기간의 투자, 지속적인 이터레이션 및 시스템적 인우세함으로 이루어진 것이기 때문입니다.

CUDA의 성공은 소수의 사람이 이룩한 것이 아니라 43,000명의 직원과 수백만 개발자가 함께 구축한 결과입니다. 개발자들이 CUDA를 선택한 이유는 우리가 이 플랫폼을 장기적으로 유지하고 발전시킬 것이라 믿기 때문입니다. 따라서 "보급량" 자체가 가장 중요한 강점입니다.

이 규모의 강점이 우리의 실행 속도에 더해지면 더 강력한 침입 방지장벽이 형성됩니다. 역사적으로 이처럼 복잡한 시스템을 이렇게 빠른 속도로 구축하고 지속적으로 연명을 기해주는 회사는 드물었습니다.

개발자의 관점에서 보면, CUDA를 지원하기로 선택한다면 6개월 후에 더 강력해질 것이라고 기대할 수 있으며, 동시에 수억 대의 장치에 접근하고 전 세계의 클라우드 플랫폼, 거의 모든 산업 및 각국에 걸쳐 커버할 수 있습니다. 여러분이 오픈 소스 프로젝트를 시작하고 CUDA를 우선적으로 지원한다면, 규모와 함께 성장 속도도 얻을 수 있습니다.

또한 "신뢰"라는 측면이 추가됩니다. 개발자들은 NVIDIA가 이 생태계를 장기간 유지할 것을 믿습니다. 만약 저라면 개발자로서 CUDA를 우선적으로 선택할 것입니다.

두 번째 이점은 우리의 생태계입니다. 우리는 수직으로 컴퓨팅 시스템을 고도로 통합하면서 수평적으로 거의 모든 기업 제품 체계에 통합되어 있습니다. 우리는 Google Cloud, Amazon, Azure에 존재하며 CoreWeave와 같은 새로운 클라우드 플랫폼에도 존재하며 초고속 컴퓨터, 기업 시스템, 엣지 장치, 자동차, 로봇, 위성, 심지어 우주에 이르기까지 다양한 곳에 존재합니다.

다시 말해서, 통합된 컴퓨팅 아키텍처가 거의 모든 산업을 포괄하고 있습니다.

Lex Fridman: AI 공장이 발전함에 따라, 이러한 CUDA의 설치 우위성은 어떻게 진화할 것이며, 미래의 NVIDIA는 본질적으로 'AI 공장 회사'가 될 수 있을까요?

Jensen Huang: 과거에는 우리의 컴퓨팅 단위가 GPU였습니다. 그런 다음 전체 컴퓨터로 발전했고, 이후에는 클러스터가 되었습니다. 현재는 완전한 AI 공장입니다. 이전에 제가 새로운 제품 세대를 발표할 때, 예를 들어 "오늘 Ampere를 발표했습니다", 전자는 칩을 들었습니다. 그것이 제 당시의 '마음의 모델'이었습니다. 그러나 오늘은 다릅니다. 칩을 집는 것은 어느 정도 운명적인 면도 있고, 더 이상 우리가 진정으로 구축한 것을 대변하지 않습니다.

지금 제 마음 속의 모델은 거대한 시스템입니다. 그것은 전력을 공급받고, 냉각 시스템이 있으며, 극도로 복잡한 네트워크 구조가 있으며, 수천 명의 현장 설치인력과 수천 명의 엔지니어가 뒷받침하고 있습니다. 그러한 시스템을 가동하는 것은 단순히 스위치를 누르는 것으로는 끝나지 않고, 수천 명의 사람들이 협업해야 합니다.

Lex Fridman: 그래서 당신이 '계산 단위'를 고려할 때, 실제로는 랙 전체, 팟 전체를 생각하고 있는 것이죠? 단일 칩이 아닌?

Jensen Huang: 완전한 인프라입니다. 그리고 제 다음 인식적으로 큰 변화는 '컴퓨터 구축'이라는 것을 '행성 규모'의 문제로 이해하는 것입니다. 이것이 다음 단계일 것입니다.

Lex Fridman: NVIDIA가 앞으로 10조 달러 시가총액에 도달할 가능성이 있다고 생각하십니까? 또는 다른 시각에서 본다면, 그게 성립된다면 그 세상은 무엇으로 변할까요?

Jensen Huang: 저는 NVIDIA의 성장이 매우 가능하다고 생각하며, 심지어 저에게는 필연적이라고 봅니다. 그 이유에 대해 설명하겠습니다.

먼저, 우리는 이미 역사상 가장 큰 컴퓨팅 회사 중 하나입니다. 그 자체만으로 유감스럽게 실례를 드리자면: 그 이유는 무엇인가요?

그 이유는 두 가지이며 둘 다 근본적인 기술 변화입니다.

첫째, 컴퓨팅 패러다임이 변화했습니다. 이전의 컴퓨팅은 본질적으로 "검색 시스템"이었습니다. 우리는 사전에 콘텐츠를 작성하고, 기록하고, 파일을 생성한 다음 추천 시스템이나 검색 시스템을 통해 이러한 콘텐츠를 검색했습니다. 다시 말해, 이는 "인간이 사전 생성 + 파일 검색" 시스템이었습니다. 그러나 지금, AI 컴퓨팅은 문맥에 기반하며 실시간으로 처리되고 토큰을 생성해야 합니다. 우리는 "검색식 컴퓨팅"에서 "생성식 컴퓨팅"으로 전환했습니다.

이전 시스템에서 우리는 많은 저장 공간이 필요했지만, 새로운 시스템에서는 많은 계산이 필요합니다. 따라서 계산 요구는 상당히 증가할 것입니다. 이러한 추세를 변경할 수있는 유일한 상황은이 생성식 컴퓨팅이 효과가없는 것으로 입증되는 것입니다. 그러나 지난 10 ~ 15 년간의 딥 러닝 연구와 최근 5 년간의 진전으로 인해 저는 예전보다 훨씬 더 자신 있습니다.

두 번째 변경 사항은 컴퓨터의 세계에서의 "역할"이 변경되었습니다. 과거에 컴퓨터는 창고와 같았지만, 지금은 공장과 같습니다. 창고 자체는 직접 수익을 창출하지 않았지만, 공장은 직접 수익과 연결되어 있습니다. 컴퓨터는 더 이상 단순한 저장 시스템이 아니라 생산 시스템입니다. 그것이 생산하는 "상품"은 토큰입니다. 그리고 이러한 토큰은 다른 사람들에 의해 사용되며 계층적으로 나타납니다. 마치 iPhone처럼: 무료로 제공되는 것, 고가로 제공되는 것, 중간층도 있습니다.

지능은 본질적으로 확장 가능한 제품으로 변모했습니다. 곧 다가올 일이며, 한 백만 토큰 당 1000 달러를 지불할 의사가 있는 날이 올 것입니다. 이것은 발생 가능성 여부가 아니라 시일 문제입니다.

따라서 문제는 다음과 같이 변합니다: 세상은 얼마나 많은 "AI 공장"이 필요한가요? 얼마나 많은 토큰이 필요한가요? 사회는 이러한 토큰에 얼마나 지불하고 싶어할까요? 이를 통해 생산력이 크게 향상되면 세계 경제는 어떻게 변할까요? 우리는 새로운 약물, 새로운 제품, 새로운 서비스를 발견할 수 있을까요?

이러한 요인들을 종합해볼 때, 저는 매우 확신합니다: 세계 GDP는 가속화될 것입니다. 동시에 계산에 사용되는 지출 비율은 지난 이전보다 한 단계 높아질 것입니다.

이러한 배경 속에서 다시 한번 NVIDIA로 돌아와서: 우리의 역할은이 새로운 경제에서 현재보다 훨씬 큰 것일 것입니다. 미래에 3 조 달러 매출을 달성할 수 있을까요? 물리적 제약이 없다는 한 당연히 가능합니다.

NVIDIA의 공급망은 200개 기업이 함께 지원하며, 우리는 전체 생태계를 통해 확장합니다. 진정한 제한 요소는 오직 하나뿐입니다: 에너지. 그러나 나는 에너지 문제는 궁극적으로 해결될 수 있다고 믿습니다.

그래서, 이러한 숫자 자체는 단지 "숫자"에 불과합니다. NVIDIA가 처음으로 10억 달러 이상의 수익을 올릴 때, 누군가는 나에게 말했습니다: "반도체 공장이 없는 반도체 기업은 10억 달러를 넘을 수 없다." 나중에 또 누군가는 "당신들은 250억 달러를 넘을 수 없다"고 했습니다.

이러한 판단들은 모두 초석의 원리에 근거하지 않습니다. 진정으로 물어봐야 할 것은: 우리가 무엇을 창출하고 있는가? 이 기회는 얼마나 큰가?

NVIDIA는 이미 존재하는 시장 점유율을 쟁탈하고 있지 않습니다. 우리가 하는 많은 일들은 이미 존재하지 않는 시장 자체입니다. 이것이 외부가 우리의 한계를 상상하기 어렵게 만든 이유이기도 합니다. 왜냐하면 뚜렷한 참고물이 없기 때문입니다. 그러나 나에겐 충분한 시간이 있습니다. 나는 계속 예측할 것이고 계속 표현할 것입니다. 모든 차세대 GPU 기술 대회(GTC)는 미래를 더 구체화할 것입니다. 궁극적으로, 우리는 그 한걸음을 밟게 될 것입니다. 나는 이것에 대해 100% 확신합니다.

Lex Fridman: "Token Factory"의 관점에서 보면, 실제로 전체 시스템을 이해할 수 있습니다: 와트당 초당 토큰을 생성하고, 각 토큰은 가치가 있으며 다른 사람에게는 다른 가치가 있습니다. 이렇게 하면 전 세계가 대규모로 "토큰 공장"으로 구성됩니다. 초석의 원리에 입각하여, AI가 해결할 수 있는 문제가 계속해서 증가함에 따라, 미래에 이러한 '공장'에 대한 수요가 기하급수적으로 증가할 것으로 유도됩니다.

Jensen Huang: "네. 매우 흥분되는 점은 '토큰의 iPhone 시대'가 이미 도래했다는 사실입니다."

Lex Fridman: "무엇을 의미하죠?"

Jensen Huang: "에이전트입니다. 에이전트는 역사상 가장 빠르게 성장하고 있는 응용 프로그램 형태가 되어가고 있습니다."

Lex Fridman: "즉, 지난 12월부터, 사람들이 Claude Code, Codex, OpenClaw와 같은 시스템의 능력에 실제로 인식을 갖기 시작했다는 거죠? 솔직히 말해서, 저 또한 조금 부끄럽지만: 제가 공항에서 '컴퓨터에 말하면서 코드를 작성하기'를 처음 시작한 건, 동료와 소통하듯이 했을 때였습니다. 미래에 모든 사람이 AI와 대화하는 게 어떻게 될지 확신은 없지만, 효율은 확실히 매우 높습니다."

Jensen Huang: "더 가능성 있는 시나리오는, 당신의 AI가 계속해서 '당신을 방해하게' 될 것입니다. 왜냐하면 그것이 임무를 매우 빠르게 수행하기 때문에 '이거 끝났어요, 다음 단계는 뭡니까?'라고 계속 묻게 될 것입니다."

Lex Fridman: 정말 믿기 힘든 미래라고 생각합니다.

Lex Fridman: 당신이 성공한 이유 중의 하나가 다른 사람들보다 열심히 일하고 더 많은 고통을 이겨내는 데에 있다고 언급한 적이 있습니다.

이러한 '고통'은 사실 많은 측면을 포함하고 있습니다. 실패에 대처하는 것, 방금 언급한 엔지니어링 문제와 비용 문제, 그리고 사람 간의 문제, 불확실성, 책임, 피로, 어색함, 그리고 당신이 언급한 기업이 해체 직전에 있는 순간들 등이 포함됩니다.

하지만 그 외에도 압박이 있습니다. 다양한 국가 정부 및 경제 주체들이 자원 할당과 AI 인프라 계획을 위해 의존하는 회사의 CEO로서, 이러한 압박을 어떻게 견뎌내시나요? 이렇게 많은 국가와 인류가 당신에게 의존할 때, 여러분은 어디에서 힘을 발휘하나요?

Jensen Huang: 저는 NVIDIA의 성공이 미국에게 중요하다는 것을 매우 잘 알고 있습니다. 우리는 많은 세금을 납부하고 기술적 우위를 확립했는데, 기술적 우위 자체가 국가 안보의 일부입니다. 국가가 더 부유해지면 사회 정책을 더 잘 추진할 수 있습니다. 우리는 또한 산업 재편을 촉진하고, 많은 일자리를 창출하며, 칩, 컴퓨터 및 AI 공장을 포함한 국내 제조 역량을 재건하는 데 기여하고 있습니다. 또한 많은 일반 투자자들 - 교사, 경찰 - 가 NVIDIA 투자로 부를 축적했습니다. 게다가, NVIDIA는 엄청난 생태계 안에 있으며, 상하 게임 모두가 우리에게 의존하고 있습니다.

이에 대한 제 접근 방식은 매우 간단합니다: 문제를 분해하세요.

제가 스스로에게 물어보는 질문은, 현재 상황은 무엇입니까? 어떤 변화가 있었습니까? 어려운 점은 무엇입니까? 저는 무엇을 할 수 있나요? 문제를 분해하면, 실행 가능한 일련의 작업이 됩니다.

다음으로 할 일은 하나뿐입니다: 했습니까? 아니면 다른 사람에게 하도록 했습니까? 하고자 하는 일이 반드시 해야 한다고 생각하지만, 직접 하지도 않고 다른 사람에게 하도록 하지도 않았다면, 불평할 필요가 없습니다.

저는 스스로에 대해 꽤 엄격합니다. 그러나 동시에, 공황을 피하기 위해 문제를 분해함으로써 저를 안심시킬 수 있습니다. 모든 위험 요소를 식별하고 관련 담당자에게 알려두었기 때문에 안심하고 잠들 수 있습니다. 할 일이 추진되고 있다면, 더 이상 걱정할 필요가 없습니다.

Lex Fridman: 이 과정에서 정신적 침체를 겪은 적이 있나요?

Jensen Huang: 물론, 많은 번.

Lex Fridman: 여전히 문제를 분해하는 방식이었나요?

Jensen Huang：네. 또 다른 것은 "잊을 줄 알기" 입니다. 기계 학습에서 중요한 능력 중 하나는 "선택적으로 잊는 것" 입니다. 사람도 마찬가지입니다. 모든 것을 온전히 기억할 수는 없습니다. 나는 문제를 빠르게 해체하고 압력을 분산시킵니다. 나를 걱정하게 만드는 어떤 일이든지 즉시 관련자에게 알리고 혼자서 감당하는 대신 합니다. 물론 스스로에게 엄격해야 합니다—감정에 빠져들지 마시고 앞으로 나아가십시오.

또 다른 것은 "미래"에 사로잡힐 것입니다. 운동 선수처럼 그들은 다음 점수에만 초점을 맞추며 이전 점수의 실수에는 신경 쓰지 않습니다.

Lex Fridman：당신은 NVIDIA가 얼마나 힘든지 초기부터 알고 있었으면 아마도 시작하지 않았을 것이라고 말씀하셨습니다.

Jensen Huang：네. 그러나 전달하고 싶었던 건, 이는 사실 모든 가치 있는 일에 적용되는 원리라는 것입니다. "어린이 마음가짐"이 필요합니다—어떤 일을 처음 볼 때 첫 반응이 "이게 얼마나 어려울까?" 여야 하며 앞서 모든 어려움을 예측해선 안 됩니다. 시작하기 전에 앞날의 모든 좌절을 미리 상상하고 있어선 안 됩니다. 대신 "이것이 멋질 거야"라는 기대감으로 시작해야 합니다. 그러나 한 번 시작하면 탄력이 필요합니다. 좌절, 실패, 수치심이 발생하며 예상치 못한 경우가 많습니다. 이때 하지말아야 할 일은: 그것을 잊고 앞으로 나아가는 것입니다. 기본적인 판단이 변하지 않는 한 계속 나아가야 합니다.

Lex Fridman：이렇게 많은 성공을 거둔 후에 겸손함을 유지하는 것이 더 어려워지나요?

Jensen Huang：정반대입니다. 제가 하는 많은 일들이 공개적이어서 한 번 판단을 틀렸을 때 모두가 볼 수 있습니다. 또한, 제 관리 방식은 "공개 추론"입니다. 결론을 직접 내리지 않고 추론 과정을 밝히고 모두가 그것이 합리적인지 판단할 수 있도록 합니다.

나는 항상 말하곤 합니다: "이것이 내 현재 이해 경로입니다." 그리고 추론 과정을 밝힙니다. 이로써 누구나 어느 단계에서든 다른 의견을 제시할 기회가 생깁니다. 그들은 결론을 반박할 필요 없이 특정 추론 단계에 문제가 있다고 지적하면 됩니다. 그러면 우리는 그것을 기반으로 계속 추론할 수 있습니다. 이는 본질적으로 "집단이 경로를 찾아가는" 방법이며 매우 효과적입니다.

Lex Fridman：문제를 설명할 때 항상 개방적인 자세를 유지해 타인이 참여하고 심지어 여러분의 사고에 영향을 미칠 수 있다는 느낌을 주는 것 같습니다. 이렇게 많은 성공과 압박을 거쳐도 이러한 태도를 유지하는 것은 실제로 매우 어렵습니다. 많은 사람들은 고통으로 인해 폐쇄적으로 변할 것입니다.

Jensen Huang："창피해를 인정할 수 있는" 허용 수준이 중요한 것 중 하나라고 생각합니다.

Lex Fridman：네, 이것은 실제로 매우 실질적인 능력입니다. 몇 년 동안 계속해서 "회의에서 판단을 내리고 나서 틀렸음을 증명받게 되는" 경험을 거치고 여전히 담담히 인정하고 성장할 수 있는 것은 실제로 매우 어려운 일입니다.

Jensen Huang：네. 사실, 제가 최초로 일했던 일은 화장실 청소였습니다.

Lex Fridman：당신이 Denny』s에서 일할 때의 그 정신을 지속하고 계신다니 기쁩니다. Denny's에서 시작한 이 경험 자체가 매우 감동적입니다. 게임에 대해 이야기해보고 싶습니다. 저는 중독적인 게이머이며, NVIDIA가 몇 년 동안 제공해온 훌륭한 그래픽 경험에 감사해야 합니다.

Jensen Huang：그리고 관련하여, 오늘까지도 GeForce는 우리의 가장 중요한 마케팅 창구입니다. 많은 사람들이 청소년 시절에 게임을 통해 NVIDIA를 알게 되었습니다. 그들이 대학에 진학할 때에는 이미 NVIDIA가 무엇인지 알고 있습니다. 처음에는 '콜 오브 듀티'나 '포트나이트'를 하다가, 나중에 CUDA를 사용하게 되고, 그 이후에는 Blender, Dassault, Autodesk와 같은 NVIDIA 생태계의 도구를 사용하게 됩니다.

Lex Fridman：네. 제가 당신과 대화를 나누겠다고 친구에게 말했을 때, 그의 첫 반응은 "그들이 하는 게임 그래픽이 정말 좋다"였습니다.

Jensen Huang：맞아요 (웃음).

Lex Fridman：물론, 이 배후에는 훨씬 더 많은 것들이 있습니다. 그러나 사실, 많은 사람들이 이러한 제품들을 정말 좋아합니다. 이 하드웨어 자체가 이 가상 세계를 정말로 '살아있게' 만듭니다. 그러나 최근 DLSS 5에 대한 약간의 논란이 있었습니다. 일부 게이머들은, 그것이 게임을 'AI로 생성된 싼 것 같은 콘텐츠'로 만들 것이라고 우려합니다. 이러한 토론에 대해 어떻게 생각하십니까?

Jensen Huang：그들의 견해를 이해하고, 그 우려가 어디에서 왔는지 이해할 수 있습니다. 왜냐하면 AI로 생성된 콘텐츠가 점점 더 유사해지고 있기 때문입니다. 비록 모두가 '아름다운' 것들이지만, 그들은 개성이 부족합니다. 저 또한 이 'AI로 만들어진 템플릿 콘텐츠'를 좋아하지 않습니다.

그러나 DLSS 5가 하고자 하는 것은 이것이 아닙니다. 저는 이미 일부 예시를 보여주었습니다. DLSS 5는 3D 조건 제약 조건에 기반하며, 실제 구조 데이터에 의해 구동됩니다. 장면의 기하학 구조는 완전히 예술가에 의해 결정되며, 시스템은 각 프레임에서이 구조를 엄격하게 준수합니다.

동시에, 이는 텍스처와 예술 스타일의 제약을 받습니다. 따라서 각 프레임은 '향상'되며 '변화'되지 않습니다. '향상'에 관해서는, DLSS 5 자체가 오픈 시스템입니다. 개발자는 자체 모델을 훈련시킬 수 있으며, 미래에는 스타일을 정의하기 위해 힌트를 사용할 수 있으며, 예를 들어 만화 렌더링이나 특정 스타일로 시스템을 생성할 수 있습니다.

그러나 어떤 경우에도, 모든 결과물은 예술가의 스타일과 창작 의도와 일관되어야 합니다. 이 도구들의 존재는 예술가가 더 아름다운 콘텐츠를 생성하는 데 도움을주고 동시에 그들이 원하는 스타일을 유지할 수 있도록하는 데 그 목적이 있습니다.

많은 플레이어들이 오해하는 것은, 게임이 먼저 원본 그대로 완성된 후 DLSS를 통해 후처리가 이루어진다고 생각한다는 것입니다. 그러나 이것이 DLSS의 설계 방식은 아닙니다. DLSS는 창작 프로세스와 깊게 통합되어 있으며 본질적으로 예술가에게 AI 도구를 제공하는 것입니다. 사용 여부는 완전히 그들의 결정에 달려 있습니다.

Lex Fridman: 나는 인간들이 '얼굴'에 대한 민감도가 특히 높다고 생각합니다. 지금은 모든 사람들이 AI 콘텐츠에 대해 민감해지고, 실제로 그것은 좋은 일이라고 생각합니다. 그것은 거울처럼 우리에게 우리가 정말로 추구하는 것이 무엇이며 때로는 어느 정도 '불완전'인지를 깨달을 수 있게 해줍니다. 그것은 우리가 끌리는 세계가 무엇인지를 이해하는 데 도움이됩니다. 그러나 그 도구들이 우리가 이러한 세계를 창조하는 데 도움을주는 경우에만, 그것은 좋은 일입니다.

Jensen Huang: 그렇습니다. 이것은 그저 또 다른 도구에 불과합니다. 개발자가 비현실적인 스타일의 콘텐츠를 생성하기를 원하는 경우, 모델도 그것을 수행 할 수 있습니다. 어떤 면에서는 이는 이전에 스킨 색상을 도입했던 것과 유사합니다. 우리는 이전에 피부에 더 현실적으로 보이게 하는 subsurface scattering을 추가했습니다. 산업 전체가 예술을 표현하는 데 더 많은 도구를 찾고 있는데, DLSS는 단지 그 중 하나일 뿐입니다. 최종 결정 권한은 항상 창작자에게 있습니다.

Lex Fridman: 약간 무거운 질문일 수 있지만, NVIDIA의 관점에서 역사상 가장 위대하거나 가장 영향력있는 게임은 무엇이라고 생각하십니까?

Jensen Huang: Doom.

Lex Fridman: 노망입니다. 그것은 3D 시대를 열었습니다.

Jensen Huang: 예술, 문화적 영향 및 산업적 전환의 관점에서, Doom은 매우 중요합니다. 그것은 개인용 컴퓨터가 가정과 플레이어를 대상으로 한 단순한 사무 자동화 도구에서 변화하는 데 중요한 역할을했습니다. 물론 이전에도 비행 시뮬레이션 게임이 있었지만, 그들은 Doom 만큼 널리 영향을주지 못했습니다. 순수하게 기술적인 측면에서, 나는 Virtua Fighter를 선택할 것입니다. 우리는 이 두 제품 팀과의 관계가 매우 좋았습니다.

Lex Fridman: 그리고 GPU 가속 측면에서 매우 우수한 작품인 '사이버펑크 2077'와 같은 최근 작품들도 있습니다.

Jensen Huang: 그렇습니다, 완전한 광선 추적입니다.

Lex Fridman：저는 개인적으로 Skyrim을 아주 좋아합니다. 출시된 지 오래되었지만, 다양한 모드 덕분에 매 번 새로운 경험을 하는 것 같아요.

Jensen Huang：우리도 모드 커뮤니티를 아주 좋아합니다. 우리는 RTX 모드를 출시했어요. 이는 모드 툴로, 최신 그래픽 기술을 오래된 게임에 주입할 수 있게 해주는 도구입니다.

Lex Fridman：물론, 훌륭한 게임은 그래픽뿐만이 아니라 이야기와 캐릭터도 포함돼야 합니다. 하지만 우수한 그래픽은 몰입감을 높일 수 있으며, 다른 세계로 빠져들게 해줍니다.

Jensen Huang：전적으로 동의합니다.

Lex Fridman：아까 말씀하신 것이 정확하다고 생각해요: AGI에 대한 시간적 판단은 본질적으로 AGI를 어떻게 정의하느냐에 따라 달라집니다.

Lex Fridman：시간에 관한 질문을 하나 하고 싶은데요. AGI에 대해 조금 극단적인 정의로 이야기해볼 수 있을 겁니다—만약, 당신의 일을 대신해 수행할 수 있는 AI 시스템이 있다고 가정하죠: 즉, 제로에서부터 시작해서, 성공적인 기술 회사를 창설하고 키워내고 운영하여 10억 달러 이상의 시장가치를 가지게 하는 것입니다.

Jensen Huang："우수한 회사"를 의미하는 건가요, 아니면 "단지 하나라도 있으면"인가요?

Lex Fridman：성공적인 회사이어야 하며, 시장가치는 10억 달러 이상이어야 합니다. 이는 매우 복잡한 요소들이 관련돼 있음을 알 수 있습니다. 그래서 이러한 능력을 가지려면 대략 얼마나 걸리게 될까요? 5년, 10년, 15년, 아니면 20년? 우리가 이야기하는 건, OpenClaw와 같이 혁신을 달성하고 고객을 찾아 제품을 판매하며, 팀을 관리하는 등의 복잡한 작업을 수행할 수 있는 시스템입니다.

Jensen Huang：저는, 이미 가능하다고 생각합니다. 우리는 이미 AGI를 실현했다고 봅니다.

Lex Fridman：지금부터라도, AI가 운영하는 회사가 가능하다는 건가요?

Jensen Huang：가능합니다. 왜냐하면, 방금 말한 것이 "10억 달러까지 도달"인데, "긴 시간 지속"을 요구하지는 않았기 때문입니다. 예를 들어, AI가 어떤 네트워크 서비스나 애플리케이션을 개발해서 갑자기 몇 십 억 명이 사용하고, 개개인이 0.5달러씩 지불한다가, 금방 사라지는 것은 전혀 불가능한 일이 아닙니다. 인터넷 시대에, 이러한 유형의 회사들은 사실 많이 나타났었고요. 그 당시의 기술 복잡성은 오늘날 OpenClaw가 할 수 있는 것보다 높지 않았습니다.

Lex Fridman: 즉, 핵심은 바이러스식 전파를 실현하고 이를 유통하는 것입니다.

Jensen Huang: 네. 다만 우리는 어떤 제품이 될지 정확히는 모릅니다. 그해 우리조차도 어떤 인터넷 회사가 성공할지 예측하지 못했습니다.

Lex Fridman: 여러분을 매우 흥분시킬 발언입니다. 들리는 바에 따르면, 에이전트를 배포하기만 하면 많은 돈을 벌 수 있다는 느낌입니다.

AI가 일자리를 빼앗을까? 아니지만 일자리의 정의를 바꿀 것입니다

Jensen Huang: 사실, 이러한 일이 이미 일어나고 있습니다. 중국에 가보면 많은 사람들이 자신의 에이전트를 훈련시키고, 일자리를 찾게 하거나 작업을 수행하게 하거나, 심지어 직접 돈을 벌게 합니다. 만약 미래에 어떤 소셜 앱이 갑자기 대유행한다면, 그것도 놀랍지 않을 겁니다. 매우 귀여운 디지털 캐릭터나 타마고치와 비슷한 제품 같은 것이 폭발적으로 유행하게 되고, 수개월 동안 많은 사용자가 사용한 뒤 급격히 사라질 겁니다. 물론, 만약 10만 개의 에이전트로 '하나의 NVIDIA를 만들기'를 시도한다면, 그 가능성은 없습니다.

하지만 강조하고 싶은 것이 있습니다. 많은 사람들이 현재 일자리에 대해 불안해하고 있습니다.

여기서 강조하고 싶은 것은, 일자리의 '목적'과 일을 수행하는 '작업과 도구'는 관련이 있지만 동일하지는 않다는 것입니다. 저는 33년 동안 이 일을 해왔으며, 기술 산업에서 가장 오래된 CEO입니다(34년). 이 34년 동안 제가 사용한 도구는 계속해서 변화해 왔고, 때로는 변화가 매우 급격합니다.

여러분이 꼭 들어야 할 한 가지 이야기가 있습니다. 초기에 컴퓨터 과학자 및 AI 연구자들은 처음으로 사라질 직업이 방사선과 의사일 것이라고 예측했습니다. 왜냐하면 컴퓨터 비전이 인간 수준에 도달하거나 그를 뛰어넘을 것이라고 했기 때문입니다. 사실 그것이 바로 일어난 것입니다. 대략 2019년부터 2020년 사이에 컴퓨터 비전은 이미 초인간적 수준에 도달했습니다. 당시의 판단은: AI가 이미지를 분석할 수 있다면, 방사선과 의사의 직업이 사라지게 될 것이라는 것이었습니다.

그러나 결과는 정반대입니다. 오늘날, 모든 방사선 플랫폼은 AI로 구동되지만, 방사선과 의사의 수는 증가했으며 여전히 전세계적으로 부족합니다.

왜 그럴까요? 왜냐하면 방사선과 의사의 '목적'은 질병을 진단하고 의사와 환자에게 판단을 내리는 것이기 때문입니다. AI가 이미지 분석을 빠르게 만들면: 더 많은 이미지를 분석할 수 있고, 더 정확하게 진단할 수 있으며, 더 많은 환자를 다룰 수 있게 될 것입니다. 병원의 수입이 증가하고 환자 수가 증가하면서 방사선과 의사에 대한 수요가 증가하게 되었기 때문입니다.

이것은 매우 직관적인 결과입니다. 동일한 논리는 소프트웨어 엔지니어에도 적용됩니다. NVIDIA의 소프트웨어 엔지니어 수는 감소하는 것이 아니라 증가할 것입니다. 소프트웨어 엔지니어의 '목적'은 문제 해결이며, 코드 작성은 단지 수단 중 하나에 불과하기 때문입니다.

그들의 작업에는 다음이 포함됩니다: 문제 해결, 팀 협업, 문제 진단, 결과 평가, 새로운 문제 발견, 혁신을 추진, 연결 구축. 이러한 능력은 사라지지 않습니다.

Lex Fridman: 프로그래머 수가 감소하는 대신 증가한다고 생각하시나요?

Jensen Huang: 네. 핵심은 우리가 어떻게 "프로그래밍"을 정의하느냐에 있습니다. 나는 프로그래밍이 본질적으로 "명세 제시"라고 생각합니다. 명확한 명령을 제시하거나 시스템 아키텍처를 정의할 수도 있습니다.

그렇다면 문제는 다수가 이를 할 수 있는가 하는 것입니다. 본질적으로, 이는 "컴퓨터에게 무엇을 해야 하는지 말하는" 것입니다. 과거에는 대략 3천만 명이 할 수 있었지만, 미래에는 10억 명이 될 수도 있습니다. 미래에는 모든 목수가 "프로그래머"가 될 것입니다. 또한 AI가 있기 때문에 동시에 "아키텍트"이기도 합니다. 그들은 고객에게 제공할 수 있는 가치를 크게 향상시키며 표현 능력도 크게 향상됩니다. 마찬가지로 미래의 회계사도 재무 분석 및 컨설팅 능력을 갖출 것입니다.

모든 직업은 "승급"될 것입니다. 만약 나가 목수였다면, AI를 매우 기대할 것입니다. 완전히 다른 수준의 서비스를 제공할 수 있기 때문입니다. 수도공이었다면 마찬가지입니다.

Lex Fridman: 현재의 소프트웨어 엔지니어는 아직 자연어와 AI 상호 작용, 시스템 설계에 대한 선도적 위치에 있을 수 있습니다.

Jensen Huang: 맞습니다.

Lex Fridman: 그러나 장기적으로 이러한 능력은 점차 보급될 것입니다. 그러나 전통적인 프로그래밍, 언어, 디자인 원칙, 대규모 시스템 아키텍처를 배우는 것에 여전히 가치가 있다고 생각합니다.

Jensen Huang: 네. "문제 정의 방법" 자체가 하나의 능력입니다. 명세의 표현 방식은 해결해야 하는 문제에 따라 다릅니다. 예를 들어 기업 수준에서 전략을 수립할 때, 팀이 실행할 수 있도록 충분히 명확한 방향을 제시하지만, 43,000명이 이를 기반으로 더 나은 일을 할 수 있도록 고의적으로 여유를 줍니다. 따라서 여러 상황에서 명세의 정밀도는 다릅니다. 미래에는 각자가 이 "프로그래밍 스펙트럼"에서 자신의 위치를 찾아야 할 것입니다. 명세 작성 자체가 프로그래밍입니다.

가끔은 매우 명확한 지침이 필요할 때가 있고, 때로는 AI와 반복 상호 작용하여 창의력을 확장해야 할 때도 있습니다. 이것이 프로그래밍의 미래입니다.

Lex Fridman: 그러나 보다 광범위한 관점에서, 많은 사람들이 일자리에 대해 불안을 느끼고 있으며, 특히 목업 직종에서. 자동화와 새로운 기술이 나타날 때마다 동요가 오고 있습니다. 나는 이러한 불안에 공감을 표해야 한다고 생각합니다, 왜냐하면 개인과 가정에 대한 실업의 고통은 실제로 존재하기 때문입니다. 이러한 기술이 최종적으로 더 많은 기회를 제공하고 사람들이 더 효율적이고 재미있게 일할 수 있도록 만들기를 희망합니다, 지금의 프로그래밍 분야에서 발생하고 있는 것처럼. 그러나 이런 변화 과정에서는 많은 고통이 있을 것입니다.

Jensen Huang: 제가 여러분에게 하는 첫 번째 조언은 불안에 대한 대처 방법입니다. 방금 언급했듯이, 먼저 문제를 분해하는 것이 중요합니다.

제어할 수 있는 부분은 무엇인가요? 제어할 수 없는 부분은 무엇인가요? 제어할 수 있는 부분에 대해 분석하고 행동해야 합니다.

만약 졸업생을 고용하려고 두 명의 후보자 중 하나를 선택해야 한다면, AI에 대해 전혀 이해가 없는 사람과 AI를 능숙하게 사용하는 사람 중 후자를 선택할 것입니다. 회계부서부터 마케팅, 공급망, 고객 서비스, 판매, 사업 확장, 심지어 변호사까지, 저는 AI에 능통한 사람을 선택할 것입니다.

그러므로 제 제안은 다음과 같습니다: 모든 학생은 AI 사용을 익혀야 합니다. 모든 교사는 학생들에게 AI 사용을 촉진해야 합니다. 모든 졸업생은 AI를 능숙하게 활용해야 합니다. 목수든 전기기사든 농부든, 심지어 약사든, AI를 시도해보고 해당 기술이 어떻게 귀하의 직업 역량을 향상시키는지 확인해야 합니다.

동시에 우리는 기술이 많은 작업을 자동화할 것이라는 사실을 인정해야 합니다. 만일 귀하의 직무가 그러한 '작업'에 근본적으로 의존한다면, 귀하가 대체될 위험이 매우 큽니다. 귀하의 직무 목표가 더 높다면, AI를 사용하여 이러한 작업을 완수할 수 있어야 합니다.

Lex Fridman: 또 하나 중요한 점은 AI 자체가 문제 분해에 도움을 줄 수 있다는 것입니다. 직접 물어볼 수 있습니다: '내 기술을 어떻게 향상시켜야 할까요? AI를 어떻게 사용해야 할까요?' AI는 매우 구체적인 단계를 제시할 수 있습니다. 그것은 심지어 '인생의 코치'가 될 수도 있습니다.

Jensen Huang: 네. 만일 AI를 사용할 줄 모른다면, 그것은 귀에게 가르쳐줄 것입니다.

Lex Fridman: 이는 정말로 매우 '메타'한 경험이지만, 매우 강력합니다.

Jensen Huang: Excel에 '나는 당신을 몰라'라고 말할 수 없지만, AI는 할 수 있습니다.

Lex Fridman: 계산이 아닌 본질적으로 '비계산'적인 무언가가 있나요? 다시 말해, 칩이 얼마나 강력해도 복제할 수 없는 것은 없나요?

Jensen Huang: 칩이 '긴장'할 지 여부는 확실하지 않습니다. 물론, 불안, 긴장 또는 다른 감정을 유발하는 조건은 AI가 인식하고 이해할 수 있지만, 칩 자체는 '느끼지' 않을 것입니다. 그러므로 이러한 감정, 불안, 흥분, 두려움... 어떻게 인간의 성과에 영향을 끼치는지는 완전히 다른 차원입니다.

같은 조건에서도, 서로 다른 사람들은 완전히 다른 성과를 보여줍니다: 어떤 사람은 뛰어난 성과를 보이고, 어떤 사람은 평범하거나 평균 이하의 수준을 보입니다. 이러한 차이는 대부분 개인의 주관적 경험에서 비롯됩니다.

그리고 컴퓨팅 시스템에서는 두 시스템이 완전히 동일한 입력을 처리할 때 통계적 차이가 발생할 수 있지만, 이러한 차이는 "다른 감각" 때문이 아닙니다.

Lex Fridman: 네, 인간의 주관적 경험은 정말 특별합니다. 제가 방금 당신과 대화할 때 긴장한다거나, 기대감, 두려움, 불안, 그리고 삶 그 자체의 풍성함 — 사랑, 상심, 죽음에 대한 두려움, 가족을 잃는 아픔 — 이 모든 것을 계산 시스템이 진정으로 갖게 될 수 있다고 상상하기 어렵습니다.

Jensen Huang: 정말 상상하기 어렵습니다. 하지만 우리는 이러한 모든 것에 대해 여전히 많이 모릅니다. 따라서 나는 여전히 개방적인 태도를 유지하고, 미래의 놀라움을 받아들이기를 원합니다. 지난 몇 년간 특히 최근 몇 달 동안 AI의 발전은 나를 여러 차례 놀라게 했습니다. "규모" 자체가 거의 기적적인 변화를 가져올 수 있다는 것이죠.

Jensen Huang: 또한, "지성"이라는 개념을 해체해야 한다고 생각합니다. 우리는 종종 "지성"이라는 말을 사용하지만, 이것은 신비한 개념이 아닙니다.

지성은 본질적으로 한 세트의 시스템 능력으로, 지각, 이해, 추론, 계획, 그리고 행동의 순환을 포함합니다. 이것이 지성입니다.

하지만 "지성"은 "인간"과 동일하지 않습니다. 이 두 가지는 다른 개념이며, 우리는 이를 구분해야 합니다. 나는 "지성"을 과도하게 신성화하지 않을 것입니다. 내 생각에, 지성은 "기능적 능력"입니다. 심지어 지성은 "상품"이 되어가고 있다고 말할 수도 있습니다.

내 주변에는 내보다 훨씬 똑똑한 사람들이 많이 있습니다. 각자의 분야에서 나보다 뛰어나고 전문적입니다. 그들은 더 나은 교육을 받았고, 각자의 분야에서 더 깊이 들어갔습니다. 하지만 나는 이 시스템 안에서 여전히 한 가지 역할을 합니다.

이것 자체로 흥미로운 것입니다.

당신은 물을 비처럼 한 사람이 어떻게 "슈퍼맨급" 사람들 사이에서 그들의 작업을 조정할 수 있는지 물을 것입니다.

이것이 바로 "지성"은 한 가지 차원에 불과함을 보여줍니다. "인간성"이라는 것이 더 큰 개념이라는 것입니다. 우리의 삶의 경험, 고통을 견디는 능력, 의지력은 "지성"과 다릅니다.

Jensen Huang: 여러분에게 한 가지 조언만 줄 수 있다면, 그것은 "지성"이라는 말을 지나치게 중요시하지 말아야 한다는 것입니다.

정말 중요시해야 할 것은: 성품, 인간성, 공감, 관대함입니다. 이것들이 바로 "슈퍼파워"입니다. 그리고 지성은 점차 보편화되고 상품화될 것입니다.

Lex Fridman: 즉, 우리는 "인간성"을 보다 중시해야 한다는 뜻이군요.

Jensen Huang：네. 인간성, 성품, 공감능력, 관대함, 이것들이 가장 중요합니다. 사회는 오랫동안 모든 것을 '지능'이라는 단어로 압축해왔지만, 삶은 그 이상입니다. 제 경험 상으로, 주변 많은 사람들보다 '지능'적인 면에서 부족하더라도 성공을 거둘 수 있었습니다. 따라서 모든 분들께 '지능의 보급'으로 인해 불안해하지 말고 오히려 그것에서 영감을 얻길 바랍니다.

Lex Fridman：저도 그렇게 생각합니다. AI는 우리로 하여금 더욱 인간 그 자체를 소중히 여기도록 할 것입니다.

Jensen Huang：맞아요. AI는 인간을 더욱 강하게 만들 것입니다.

Lex Fridman：NVIDIA의 성공과 무수히 많은 사람들의 삶은 어느 정도 당신에게 의존합니다. 그러나 최종적으로 당신도 평범한 사람이며 결국 죽음을 마주해야 합니다. 이 문제에 대해 생각하시나요? 죽음을 두려워하시나요?

Jensen Huang：저는 죽고 싶지 않습니다.

제 삶은 아주 좋고, 가정도 행복하며, 매우 중요한 일을 하고 있습니다. 이것은 '한 번의 인생'이 아니라 '인류 역사 수준'의 경험입니다. NVIDIA는 역사상 가장 중요한 기술 회사 중 하나이며, 우리가 하는 일은 중요한 의미를 가지고 있습니다. 저는 이에 대해 매우 진지합니다.

물론 어느 정도 현실적인 문제도 있습니다. 예를 들어 후계 계획입니다. 저는 종종 말하죠, 후계 계획을 크게 믿지 않는다고. 저 자신이 떠날 것이 아니라고 생각하기 때문이 아니라, 왜냐하면: 만약 당신이 진심으로 회사의 후계 발전을 걱정한다면, 오늘 당신이 하는 가장 중요한 것은 계속해서 지식을 전달하는 것입니다. 정보, 통찰, 경험, 능력 등을 계속해서 팀에 전달하는 것이죠.

그것이 바로 저가 팀 앞에서 지속적인 논쟁을 하는 이유입니다. 매 회의는 본질적으로 인식 전달이기 때문입니다.

저는 어떤 정보도 '내 손에 두지 않습니다.' 일단 배우면 거의 즉시 다른 사람들과 공유합니다. 심지어 완전히 이해하지 못한 상태에서도 이미 다른 사람들에게 알리곤 합니다: '이것은 매우 중요합니다, 조사해야 합니다.' 저는 주변 사람들에게 계속해서 능력 부여를 하여 그들의 능력을 계속 향상시킵니다. 제 이상적인 상태는: 제가 나가도 자리를 비우고, 순간적으로 떠납니다. 오랫동안의 고통은 없습니다.

Lex Fridman：관찰자이자 팬으로서, 물론 당신이 계속 일하셨으면 하는 바람입니다 (웃음). NVIDIA의 혁신 속도는 인도공학에 대한 경배이기도 합니다.

그러면 마지막 질문: 미래 10년, 20년, 50년, 심지어 100년을 내다보았을 때, 인류의 미래에서 무엇이 당신에게 희망을 줍니까?

Jensen Huang: 나는 항상 인류의 선량함, 관대함, 그리고 공감심에 대해 확신을 갖고 있습니다. 때로는 그 확신이 있어야 할 정도보다 심지어 더 크기도 한데, 그래서 가끔 실망을 당하기도 합니다. 그러나 이것이 나의 판단을 변경하지 않을 겁니다. 나는 항상 사람들이 착한 일을 하려고 하며, 타인을 도우려는 마음을 가진다고 믿습니다. 그리고 대부분의 경우, 이 판단이 맞다고 확신하고 있습니다. 때로는 제 예상을 뛰어넘기도 합니다.

Jensen Huang: 나를 희망가게 만드는 것은, 현재 일어나고 있는 일을 관찰하고 미래로 추론했을 때, 많은 문제들이 해결 가능해지고 있다는 것을 깨닫는 것입니다.

우리는 해결해야 할 문제가 너무 많고, 이루고 싶은 것이 너무 많습니다. 그런데 이러한 것들이 접근 가능해지고 있으며, 심지어 내 평생 내에 실현될 수도 있습니다. 이러한 미래에 대해 로맨틱해지지 않을 수가 없습니다. 예를 들어, 질병의 종식은 합리적인 기대입니다; 오염의 크게 감소는 합리적인 기대입니다; 심지어 광속에 가까운 속도로 어떤 형태의 "전송"을 수행하는 것도 상상할 수 있는 미래입니다.

Jensen Huang: 나는 심지어 한 가지 방법을 상상하고 있습니다: 미래에 우리가 "의식"을 디지털 형태로 전송할 수 있다고 생각합니다. 우리는 한 사람의 모든 정보, 이메일, 생각, 행동을 AI로 단계적으로 전환할 수 있습니다. 조건이 성숙해지면, 이 "디지털화된 자아"를 우주로 보내어 로봇과 합체시킬 수 있다고 상상합니다.

Lex Fridman: 이것은 정말 충격적인 상상입니다. 그러나 과학적으로는 의식 그 자체 같은 해결되지 않은 문제들이 여전히 많습니다.

Jensen Huang: 그렇습니다. 그러나 "생명 시스템"을 이해하는 것은 아마도 매우 가까이 있을 것이며, 아마도 5년 내에 큰 전환을 이룰 것입니다.

Lex Fridman: 의식이든 물리학의 심층적인 문제가되든, 이러한 것들이 미래를 매우 흥분되게 만듭니다.

Lex Fridman: Jensen, 당신이 한 모든 일에 대해 진심으로 감사드리며, 오늘의 공유에 감사드립니다.

Jensen Huang: 감사합니다, Lex. 이 대화를 정말 즐겼습니다. 동시에 이 인터뷰를 진행해 주셔서 감사드리고, 당신의 심도, 존중, 연구 정신 덕분에 이러한 인물과 사상을 더 잘 이해할 수 있게 되었습니다.

Lex Fridman: 이것이 나에게 의미가 큽니다, 감사합니다.

Lex Fridman: Jensen Huang와의 대화를 들어주셔서 감사합니다. Alan Kay가 말한 것처럼, "미래를 예측하는 가장 좋은 방법은 직접 만들어내는 것입니다." 감사합니다. 다음에 뵙겠습니다.

[원문 링크]

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia