세 가지 차트로 살펴보는 NVIDIA GTC: 높은 성능, 더 많은 소비

황인훈은 어제 GTC 2026에서 Vera Rubin 플랫폼을 발표했으며, 단위 전력 소비 推론 성능이 Blackwell 대비 10배 향상되었음을 주장했으며, 推론 토큰 비용이 1/10로 하락했으며, Blackwell과 Vera Rubin의 합병 계획이 2027년까지 1조 달러를 돌파할 것으로 예고했습니다.

지난 두 해 동안 GPT-4와 동등한 API의 推론 비용은 94% 하락하여 백만 토큰 당 36달러에서 2달러 미만으로 떨어졌습니다. 직관적으로 계산 능력이 싸졌으니 기업들은 덜 돈을 써야 할 것으로 생각됩니다. 그러나 Amazon, Alphabet, Meta, Microsoft 네 대의 클라우드 공급업체의 투자 지출 합계는 1540억달러에서 4160억달러로 약 3배 증가했습니다.

황인훈의 조언은 단순한 마케팅 발언이 아닙니다. 그것은 데이터로 그릴 수 있는 한 줄기가 따로 있습니다.

모든 세대는 이전 세대를 울리게 합니다

2022년의 H100부터 2026년 하반기에 양산 예정인 Vera Rubin까지, NVIDIA AI GPU의 FP8 밀집 推론 성능은 4년 동안 8배로 증가했습니다. NVIDIA 공식 사양에 따르면, H100는 단일 카드에서 2.0 PetaFLOPS, B200는 4.0 PF에 이르고, Vera Rubin은 직접 16 PF로 뛰었습니다.

그러나 모든 세대의 도약이 같은 곳에서 오는 것은 아닙니다. wccftech에 따르면, H200의 연산 코어는 H100과 완전히 동일하며, FP8 성능은 변하지 않았으며, 그 업그레이드는 모두 메모리 대역폭(3.35 TB/s에서 4.8 TB/s로 증가)에서 나온 것으로, 약 45%의 推론 처리량 증가를 가져왔습니다.

진정한 아키텍처 변경은 B200 및 Vera Rubin에서 발생했습니다. Vera Rubin은 TSMC 3나노 프로세스를 채택하고, 336B 트랜지스터의 듀얼 칩렛 디자인을 탑재하며, FP4 정밀도 이하의 推론 처리 성능이 50 PF에 달합니다. Tom's Hardware에 따르면, 첫 번째 Vera Rubin 시스템이 이미 Microsoft Azure에서 실행 중이라고 합니다.

여기에는 쉽게 무시되는 차이점이 있습니다. 황인훈이 GTC에서 말한 "10배"는 원시 계산 능력의 배수가 아니라 推론 토큰 비용의 감소를 가리킵니다. 토큰 비용에는 Transformer Engine 최적화, FP4 정밀도, 더 큰 일괄 처리 推론 등 시스템 수준 요소가 포함됩니다. 표준화된 FP8 밀집 TFLOPS 기준으로, Vera Rubin은 Blackwell 대비 4배, H100 대비 8배입니다.

이 곡선의 기울기는 결코 둔화되지 않았습니다. 각 세대의 GPU는 이전 세대를 부족하게 만들었고, 이는 곧 앞으로 진행할 이야기의 시작점입니다.

Jevons 패러독스: 해시파워가 저렴해질수록 더 많이 소비

2023년 3월 GPT-4가 출시되었을 때, API 호출 비용은 백만 토큰당 약 36달러였습니다. OpenAI의 공식 요금 인상 이력에 따르면, 2024년 중반 GPT-4o가 출시될 즈음에는 약 7달러로 낮아지고, 2025년 말에는 실제 사용 가능한 가격이 2달러 미만으로 하락했습니다. 이 기간 동안 가격 하락률은 94% 이상이었습니다.

이성에 따르면, 추론 비용이 이렇게 많이 하락했으므로 기업은 더 적게 지출해야 할 것입니다. 그러나 현실은 전혀 그렇지 않습니다. 여러 회사의 재무 보고서 및 Platformonomics 추적 데이터에 따르면, 2023년의 1540억 달러에서 2025년의 4160억 달러로 증가한 Amazon, Alphabet, Meta, Microsoft 네 대 클라우드 공급 업체의 연간 자본 지출은 170% 증가했습니다. 구글은 320억 달러에서 915억 달러로 (대략 2.9배) 급증했으며, Microsoft의 증가폭은 더 큽니다.

이 현상은 경제학에서 Jevons 패러독스라는 이름이 있습니다. 1865년, 영국 경제학자 윌리엄 제봉스는 와트의 개량 스팀 기관으로 석탄 사용 효율이 크게 향상되었음에도 불구하고 영국의 석탄 소비가 줄지 않고 증가했다는 것을 발견했습니다. 그 이유는 매우 간단했습니다. 효율 향상으로 스팀 기관이 더 경제적으로 되자, 더 많은 산업이 스팀 기관을 사용하기 시작했고, 총 수요는 효율 절감을 웃도는 정도로 팽창했습니다.

오늘날 AI 추론의 상황은 완전히 같습니다. API 가격이 원래의 6%로 하락했지만 기업은 예산을 절약하지 않고 이전에는 경제적이지 않았던 시나리오에 AI를 투입하기 시작했습니다. 고객 서비스, 코드 리뷰, 콘텐츠 생성, 검색 결과 재정렬, 광고 입찰, 각 새로운 시나리오는 더 많은 추론 해시파워를 요구합니다. 수요 팽창 속도는 비용 감소 속도를 훨씬 초과합니다. DeepSeek R1은 2025년 초에 입력 가격을 백만 토큰당 0.55달러로 압축하여 이 순환을 더욱 가속화시켰습니다. 그래프 상에서 두 개의 상반된 움직이는 선은 한 가지 사건의 두 가지 면입니다.

3년 동안 11배, 천장을 볼 수 없는 성장

만일 Jevons 패러독스의 가장 직접적인 수혜자가 있다면, 그것은 삽을 판매하는 사람들이겠지요.

NVIDIA 재무 보고서에 따르면, 데이터 센터 사업의 연간 수익은 FY2022(2022년 1월 종료)의 1060억 달러에서 FY2025(2025년 1월 종료)의 1152억 달러로 증가했습니다. 세 회계 연도 동안 10.9배 증가했습니다. 이 증가 속도 곡선은 기술 역사상 거의 전례가 없습니다. 비교적으로, iPhone은 2007년 출시 이후 약 6년이 걸려서 유사한 수익 규모의 증가를 달성했습니다.

그 후, 황량훈은 GTC 2026에서 다음과 같이 말했습니다: "2027년까지, 제가 본 명확한 주문은 적어도 1조 달러입니다. 실제로, 우리의 생산 능력은 부족할 것입니다. 나는 계산 요구가 이 숫자를 훨씬 뛰어넘을 것이라고 확신합니다."

지난해 GTC에서 그가 제시한 예측은 2026년까지 명시적인 순서로 5000억 달러에 이른다. 1년 후, 숫자가 두 배로 증가했지만, 시간 창은 단지 1년만 늘었습니다. 분석가들은 FY2026-FY2027의 매출 예측 범위가 각각 1600-2200억 달러 및 2500-4000억 달러 사이에 있습니다. 그러나 황량훈은 그 숫자가 천장이 아니라고 말했으며, "계산 요구가 이 숫자를 훨씬 초과할 것"이라고 말했습니다. GTC가 끝난 날, NVIDIA 주가는 4.3% 상승했습니다. 시장은 분명히 그를 믿기로 선택했습니다.

각 GPU 세대는 이전 세대를 비교할 수 없게 만들고, 각 가격 인하는 다음 자본 지출을 당연시합니다. NVIDIA는 이 모순의 가장 달콤한 위치에 서 있습니다.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia