TL;DR
· OpenAI와 브로드컴이 첫 자체 개발 AI 추론 칩 '할라페뇨'를 발표, 2026년 말까지 초기 배치 목표.
· 이 칩은 LLM 추론용으로 설계되었으며, 학습용 GPU 대체품이 아님. 초기 성능 수치는 여전히 회사 테스트 기준.
· OpenAI가 엔비디아 의존도를 줄이는 첫걸음을 뗐지만, 비용 절감 폭, 양산 규모, 실제 부하 성능은 아직 공개되지 않음.

OpenAI와 브로드컴은 6월 24일 '할라페뇨'를 발표했다. 이는 대규모 언어 모델 추론을 위한 자체 개발 AI 가속기로, OpenAI의 첫 번째 '인텔리전스 프로세서' 칩이다. 두 회사의 발표에 따르면, 할라페뇨는 아직 테스트 및 시제품 단계에 있으며, 2026년 말까지 초기 배치를 시작하고 향후 수년간 확장할 계획이다. OpenAI에게 핵심은 모든 엔비디아 GPU를 즉시 대체하는 것이 아니라, ChatGPT, Codex, API 및 미래 에이전트 제품에서 증가하는 추론 요청을 자체 모델에 더 적합한 소프트웨어와 하드웨어 조합으로 점진적으로 전환하는 것이다.

추론부터 시작, 매일 발생하는 쿼리 비용에 주목

AI 칩 수요는 크게 학습과 추론으로 나뉜다. 학습은 모델 성능의 한계를 결정하고, 추론은 모델 학습 완료 후 허용 가능한 비용으로 대규모 사용자 요청에 응답할 수 있는지를 결정한다.

할라페뇨는 후자를 겨냥한다. OpenAI는 이 칩이 대규모 언어 모델 추론 워크로드에 사용되어 ChatGPT, Codex, API 및 미래 에이전트 제품을 지원할 것이라고 밝혔다. 일반 사용자에게는 채팅 인터페이스가 직접 바뀌지 않지만, 백엔드에서 요청 처리 비용, 속도 및 확장성에 영향을 미칠 수 있다.

이는 AI 기업들의 자체 칩 개발 흐름의 공통된 방향이다. 구글은 TPU를, 아마존과 메타도 맞춤형 가속기를 추진 중이다. 이들은 반드시 엔비디아를 완전히 대체하려는 것이 아니라, 가장 안정적이고 규모가 큰 내부 워크로드를 자체 모델과 소프트웨어 스택에 더 적합한 칩으로 옮기려는 것이다.

OpenAI는 이전까지 외부 GPU 공급, 특히 엔비디아의 고급 가속 카드에 장기간 의존해 왔다. 모델 호출량이 증가함에 따라, 일반 GPU만 조달하면 두 가지 압력이 발생한다: 비용과 공급이 외부 공급망에 종속되고, 일반 칩이 특정 모델 및 서비스 모드에서 최고 효율을 발휘하지 못할 수 있다. 할라페뇨의 직접적인 변화는 OpenAI가 단순히 연산 능력을 구매하는 데서 나아가, 연산 능력을 정의하는 데 참여하기 시작했다는 점이다.

브로드컴이 실리콘 구현 및 연결 기술 담당, 웨이퍼 제조사는 미공개

Jalapeño는 OpenAI가 처음부터 설계했으며, Broadcom이 실리콘 구현, 네트워크 및 연결 기술을 제공하고, Celestica가 보드, 랙 및 시스템 수준의 구현에 참여했습니다. 공식 발표에서는 웨이퍼 제조사를 공개하지 않았으므로, 단순히 Broadcom이 제조를 담당한다고 말할 수 없습니다.

Broadcom은 커스텀 ASIC 및 데이터센터 네트워킹 분야에서 깊은 경험을 쌓아왔으며, 지난 몇 년 동안 여러 AI 거대 기업의 자체 칩 개발을 지원하는 주요 공급업체 중 하나가 되었습니다. OpenAI의 입장에서 Broadcom과의 협력은 모델 회사 내부의 아키텍처 요구 사항을 성숙한 반도체 및 시스템 공급망을 통해 배포 가능한 제품으로 전환하는 것에 가깝습니다.

성능 부분은 여전히 경계를 설정해야 합니다. 두 회사는 Jalapeño가 오늘날 최고의 AI 가속기의 처리량을 결합하고, 전력 대비 성능(성능/와트)에서 현재의 첨단 솔루션보다 크게 향상되는 것을 목표로 한다고 밝혔습니다. 공식적으로는 엔지니어링 샘플이 이미 실험실에서 목표 주파수와 전력 소비로 머신러닝 워크로드를 실행하고 있으며, 최종 성능은 아직 측정 중이며, 향후 몇 달 안에 더 자세한 기술 보고서가 발표될 것이라고 강조했습니다.

현재까지 타사 벤치마크는 공개되지 않았으며, 정확한 처리량, 지연 시간, 전력 소비, 단일 쿼리당 비용 절감 폭 등의 핵심 지표도 공개되지 않았습니다. 일부 시장 해석에서는 이를 NVIDIA Blackwell 또는 Google TPU와 직접 비교하기도 하지만, 실제 배포 데이터가 나오기 전까지 비용 절감 및 성능 우위는 여전히 회사의 초기 테스트 수준에 불과합니다.

9개월 만에 테이프아웃, AI 기반 칩 설계가 또 다른 핵심 포인트로 부상

Jalapeño에는 공식적으로 강조된 또 다른 세부 사항이 있습니다: 초기 설계부터 제조 테이프아웃까지 단 9개월이 걸렸다는 점입니다. 이 시간은 완전한 양산 주기를 의미하는 것이 아니라, 칩 설계가 제조 준비 단계에 진입하는 속도를 나타냅니다.

전통적인 칩 개발에서 아키텍처 설계, 검증, EDA 프로세스부터 테이프아웃까지는 일반적으로 긴 시간이 소요됩니다. OpenAI는 이 과정이 자사의 모델에 의해 가속화되었다고 밝혔습니다. 회사는 AI가 코드 작성, 콘텐츠 생성뿐만 아니라 하드웨어 엔지니어링 프로세스에도 진입하여 칩 설계 및 검증 시간을 단축하는 데 도움을 줄 수 있음을 증명하려 하고 있습니다.

이 방법이 향후 제품에 재사용될 수 있다면, Jalapeño는 단순한 단일 세대 칩이 아니라 OpenAI의 다세대 커스텀 컴퓨팅 플랫폼의 시작점이 될 것입니다. OpenAI와 Broadcom은 이미 2025년 10월에 10GW급 커스텀 AI 가속기 협력을 발표했으며, 2026년 하반기부터 배포를 시작하여 2029년 말까지 완료할 계획입니다. Jalapeño는 이 협력 라인이 공개 제품 단계에 진입한 첫 번째 샘플입니다.

그러나 설계 속도가 빠르다고 해서 배포 속도가 빠른 것은 아닙니다. Jalapeño가 OpenAI의 핵심 인프라에 진입할 수 있을지는 향후 양산, 패키징, 고대역폭 메모리 공급, 서버 시스템 통합 및 데이터센터 스케줄링에 달려 있습니다. 어떤 단계에서 병목 현상이 발생하더라도 연말 이전의 초기 배포 일정에 영향을 미칠 수 있습니다.

엔비디아 의존도 축소는 방향일 뿐, 이미 대체 완료된 것은 아니다

Jalapeño는 시장에서 'OpenAI가 엔비디아에 도전한다'는 의미로 가장 쉽게 해석된다. 더 정확히 말하면, OpenAI가 일부 추론 작업 부하에 대해 엔비디아 외의 맞춤형 경로를 찾기 시작한 것이다.

엔비디아의 강점은 단일 GPU 성능뿐만 아니라 CUDA 생태계, 학습 및 추론 도구 체인, 시스템 수준의 상호 연결, 개발자 기반, 공급 규모에 있다. OpenAI가 Jalapeño를 성공적으로 배포하더라도 즉시 엔비디아에서 벗어나지는 않을 것이다. 특히 최첨단 대규모 모델 학습, 범용 연구, 다양한 작업 부하에서 고급 GPU는 여전히 핵심 인프라다.

추론 단계는 맞춤형 칩이 진입하기에 더 적합하다. 요청 패턴이 상대적으로 안정적이고, 모델 구조가 더 통제 가능하며, 서비스 목표도 더 명확하다. OpenAI가 ChatGPT, Codex 또는 API에서 빈도가 높고 표준화된 추론 작업을 Jalapeño로 이전할 수 있다면, 비용과 공급 탄력성 측면에서 실질적인 이점을 얻을 수 있다.

브로드컴 입장에서 AI 거대 기업의 자체 칩 개발이 반드시 칩 회사가 배제된다는 의미는 아니며, 오히려 더 많은 맞춤형 프로젝트를 가져올 수 있다. 다만 이러한 프로젝트의 수익 공간은 여전히 부품 비용, 공급 규모, 시스템 복잡성, 특히 고대역폭 메모리 등 핵심 공급의 가격과 가용성에 달려 있다.

Jalapeño가 앞으로 진정으로 답해야 할 것은 출시 시점에 Blackwell이나 TPU와 비교할 수 있는지가 아니라, 연말까지 어느 규모로 가동될 수 있는지, 어떤 실제 작업 부하를 처리할 수 있는지, 추론 비용을 어느 수준까지 낮출 수 있는지다. OpenAI에게 이 '할라피뇨'는 GPU 병목 현상을 해소하기 위한 첫 시험일 뿐이며, 이것이 메인 요리가 될 수 있을지는 배포 데이터가 증명해야 한다.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia