젠슨 황, 마벨 CEO 동석 대담: 미래 AI는 연산력이 아닌 '연결'이 관건

이 글을 읽으려면 15 분

구리 케이블이 물리적 한계에 도달했으며, 수백억 자금이 이 '간과된 분야'로 몰리고 있습니다.

원문 제목: 《황런쉰, Marvell CEO 동석 대담: 미래 AI의 핵심은 연산이 아닌 연결, "구리 쓸 수 있으면 구리 쓰고, 광케이블 써야 하면 광케이블 써라!"》
원문 저자: 둥징, 월스트리트저널

AI 모델이 거대한 '에이전트(Agent)' 시대로 나아가면서, 데이터센터의 연산 병목 현상은 점차 '연결'로 옮겨가고 있으며, 구리 케이블에서 광섬유로의 전환을 이끄는 기반 인프라 혁명이 전면적으로 촉발되고 있습니다.

대만 타이베이 Computex 컨퍼런스 둘째 날, AI 맞춤형 칩, 광통신 및 데이터센터 연결 분야의 선두주자 Marvell의 회장 겸 CEO 맷 머피(Matt Murphy)가 기조 연설을 했습니다.

엔비디아 CEO 황런쉰이 특별 게스트로 깜짝 등장하여, AI 연산과 네트워크 연결의 정점에 선 두 수장이 함께 무대에 올라 두 회사의 전략적 파트너십을 전면에 드러냈습니다. 이번 공동 등장은 이번 전시회에서 지금까지 가장 주목받는 순간이 되었습니다.

(Marvell CEO 맷 머피와 황런쉰이 Computex 컨퍼런스에서 동석 대담하는 모습)

황런쉰은 자리에서 한마디로 전체 분위기를 정리했습니다: "신사숙녀 여러분, 다음 1조 달러 기업(The next trillion dollar company, ladies and gentlemen)"——그가 지칭한 것은 바로 Marvell입니다.

현장은 박수갈채로 가득 찼습니다. 월스트리트저널 기사에 따르면, 이 배경에는 엔비디아가 수개월 전 Marvell에 20억 달러를 전략적으로 투자한 깊은 결속과, 두 회사가 AI 데이터센터 인프라 분야에서 공동으로 심화하고 있는 최신 사례가 있습니다.

이전 분기 실적 발표와 함께, 시장은 AI 슈퍼컴퓨팅 사이클에서 Marvell의 수혜 정도에 높은 관심을 집중하고 있습니다.

이에 대해 머피는 시장의 이목을 끄는 답변을 내놓았습니다: 10년 전 Marvell의 데이터센터 사업 매출 비중은 10% 미만이었지만, 지난 분기에는 이 비율이 75%를 넘었고 연간 약 40%의 속도로 가속 성장 중입니다.

최신 실적 가이던스에 기반하여, 월스트리트는 일반적으로 내년 매출이 놀라운 164억 달러에 이를 것으로 예상하고 있습니다.

이러한 실적 급등의 배경에는 젠슨 황과 머피의 대담에서 드러난 AI 인프라의 핵심 투자 테마가 자리 잡고 있습니다. 연산 능력과 메모리의 병목 현상이 차례로 돌파된 후, '연결(Connectivity)'이 시스템의 최종 성능을 결정짓는다는 것입니다. 두 CEO의 핵심 공감대는 다음과 같습니다:

AI 인프라의 다음 결정적 전장은 연산 능력도, 메모리도 아닌 바로 연결(Connectivity)이다. Marvell은 이 혁명의 중심에 있습니다.

주목할 점은 Marvell 주가가 야간 거래에서 16% 이상 급등했다는 사실입니다.

연산 능력의 끝은 연결: AI가 '유용한 단계'에 진입, 인프라 연결 수요 폭발

왜 오늘날 연결이 그토록 중요해졌을까요?

머피는 연설에서 명확한 논리적 사슬을 통해 '연결'이 현재 가장 중요한 제약 조건이 된 이유를 설명했습니다:

AI 인프라의 병목 현상은 순차적으로 나타나며 차례로 돌파되고 있습니다. 연산 능력(엔비디아가 선도하며 세계 최초 시가총액 5조 달러 기업이 됨) → 메모리(메모리 분야에서 최근 세 개의 새로운 1조 달러 시가총액 기업이 등장) → 연결(현재 진행 중).

"글로벌 최고 수준의 하이퍼스케일 클라우드 서비스 제공업체들이 전체 네트워크 아키텍처를 재설계하고 있으며, AI 인프라 확장이 최우선 연결 과제가 되었다는 점을 인식하고 있습니다."라고 머피는 말했습니다. "이는 제 개인적인 의견이 아니라, 최대 고객들로부터 받은 피드백입니다."

젠슨 황은 대담에서 가장 직설적인 비즈니스 논리를 제시했습니다:

"실용형 AI(Useful AI)가 이미 도래했습니다. 이제 수익을 낼 수 있고, Token도 수익을 창출할 수 있습니다.

Token 생산에 이익이 생기면 모두가 더 많은 Token을 생산하려 합니다. 이것이 바로 Marvell의 수요가 이렇게旺盛한 이유이며, 우리의 수요도 마찬가지로旺盛한 이유입니다."

젠슨 황은 현재의 AI가 '에이전트(Agent)' 모델로 나아가고 있다고 지적했습니다. 이 새로운 컴퓨팅 모델은 작업을 분할하여 거대한 컴퓨팅 클러스터에 분산 배포해야 합니다. "컴퓨팅 문제를 여러 부분으로 나누어 데이터 센터 전체에 분산할 때 가장 필수적인 것은 바로 연결성입니다."

젠슨 황은 협력사에 대한 칭찬을 아끼지 않았으며, 무대 위에서 이렇게 말했습니다: "신사숙녀 여러분, (Marvell) 이것이 바로 다음 1조 달러 기업입니다."

머피는 단일 프로세서만으로는 더 이상 AI 워크로드를 감당할 수 없으며, 미래에는 수백만 개의 프로세서가 협력해야 한다고 말했습니다.

"컴퓨팅 규모의 확장은 본질적으로 연결성 문제입니다. 업계 전체가 이미 연산 병목을 해결했고, 메모리 병목을 해결 중이며, 인프라의 한계를 시험하는 다음 병목은 바로 연결입니다."

"구리를 쓸 수 있으면 구리를 쓰고, 광학이 필요할 때만 광학을 써라"

머피와 젠슨 황의 대화 중 시장 참고 가치가 가장 높은 부분은 구리 케이블에서 광섬유로의 전환 일정에 대한 양측의 분석이었습니다.

젠슨 황이 제시한 전략 프레임워크는 간결하고 직접적이었습니다: "구리 케이블을 쓸 수 있는 곳에서는 구리 케이블을 쓰고, 광학 부품이 반드시 필요한 곳에서만 광학 부품을 사용하라(You use optics wherever you must, you use copper wherever you can)."

그는 구리 케이블이 대역폭과 전송 거리에서 물리적 한계를 가지며, 이 경계를 넘기 전까지는 구리 케이블이 간단하고 저렴하며 실용적인 선택이라고 설명했습니다. 그러나 임계점을 넘으면 광섬유가 랙 간, 데이터 센터 간 및 데이터 센터 간 확장 요구를 이어받게 됩니다.

그의 핵심 결론은 다음과 같습니다:

"향후 5~10년 동안 우리는 여전히 많은 양의 구리 케이블을 사용할 것이며, 동시에 엄청난 양의 광학 부품도 사용할 것입니다. 이러한 데이터 센터는 이제 인프라의 일부가 되었습니다."

이러한 '구리와 광학을 병용하고 각각의 경계를 지킨다'는 판단은 시장에 대해 구리 케이블과 광섬유 분야 모두에서 Marvell이 지속적으로 혜택을 받는 위치에 있음을 의미합니다. 그리고 Marvell은 업계에서 두 방향 모두에서 완전한 솔루션을 동시에 제공할 수 있는 몇 안 되는 회사 중 하나입니다.

구리와 광학 전환 일정 뒤에는 피할 수 없는 물리적 법칙이 있습니다. 머피는 구리 케이블의 전송 거리가 대역폭에 반비례하며, 대역폭이 두 배로 늘어날 때마다 전송 거리가 절반으로 줄어든다고 설명했습니다.

현재 가장 빠른 양산 시스템의 단일 채널 속도는 200Gbps에 도달하며, 이에 해당하는 구리 케이블 길이는 약 2.5미터이고, 랙 높이는 약 2미터입니다. 내부 배선을 고려하면 2.5미터는 이미 한계에 도달한 것입니다.

「400Gbps로 업그레이드할 때, 구리 케이블로는 전체 랙을 완전히 연결할 수 없습니다. 구리 벽(Copper Wall)이 이동 중이며, 이미 시작되었습니다.」 구리 벽이 오른쪽으로 한 걸음 이동할 때마다 연결 수는 최소 한 자릿수 이상 증가하며, 이는 광통신 수요를 폭발적으로 증가시킵니다.

이러한 물리적 한계에 대응하기 위해 Marvell은 CPO(공동 패키징 광학) 기술에 집중하고 있으며, 광섬유를 패키지에 직접 연결해 컴퓨팅 칩 가까이에 배치함으로써 밀도와 전력 소모 문제를 해결하고 있습니다.

컨퍼런스 당일, Marvell은 AI 데이터센터 전용으로 설계된 업계 최저 전력 소모의 새로운 100T 이더넷 스위치를 공식 발표했으며, CPO 기반 51.2T 스위치를 선보여 보드 레벨에서 구리 배선을 완전히 제거했습니다.

「이것은 미래의 개념이 아닙니다. 지금 이미 현실화되고 있습니다.」라고 Murphy는 말합니다. 광 연결이 거리의 제약을 완전히 깨뜨리면, 미래의 데이터센터는 더 이상 컴퓨팅과 메모리의 물리적 경직성 경계를 가지지 않으며, 인프라는 AI 모델의 요구에 따라 대규모로 동적으로 구성될 수 있습니다.