TL；DR

토큰 비용을 통제하고 데이터 프라이버시를 보호하기 위해, 프라이빗 추론에 대한 수요가 빠르게 증가하고 있습니다

• 뉴욕대학교, 스탠포드대학교, 다트머스 칼리지, 하와이대학교 마노아 캠퍼스의 최고 연구진들이 B3IQ를 사용하여 암 연구 및 전용 AI 모델 훈련을 포함한 AI 작업을 지원하고 있습니다.

• Broadcom의 2026년 IT 책임자 1,800명 대상 조사에 따르면, 기업의 56%가 이미 프라이빗 클라우드 인프라에서 프로덕션급 추론을 실행 중이거나 계획 중이며, 동일한 워크로드의 퍼블릭 클라우드 사용률은 1년 만에 56%에서 41%로 감소했습니다.

• B3IQ는 현재 오리건주에 27,000평방피트 규모의 시설을 운영 중이며, 지속적으로 증가하는 수요를 충족하기 위해 미국 내 조립 NVIDIA GPU 시스템 재고를 빠르게 확충할 계획입니다.

프라이버시는 AI 분야에서 점점 더 부각되는 문제가 되고 있습니다. 중앙화된 AI 서비스 제공업체에 전송되는 모든 프롬프트는 남의 금고에 맡긴 예금과 같습니다. 연구 데이터, 비즈니스 로직, 창의성이 전송자가 통제할 수 없는 시스템으로 흘러 들어가고, 조건도 자신이 정할 수 없습니다. 가장 직접적인 해결책은 자체 하드웨어에서 AI 모델을 실행하는 것이지만, 이전에는 이 방법이 대부분의 사람에게 너무나 먼 이야기였습니다. 고급 GPU 시스템은 수만 달러에 달하고, 공급도 부족하며, 운영에는 공간과 전문 유지보수가 필요했습니다.

오늘, B3 Labs가 발표한 B3IQ가 이 격차를 메웁니다. B3IQ는 대학, 기업 및 전문 사용자가 AI 워크로드가 의존하는 하드웨어, 모델 및 데이터에 대해 더 큰 통제권을 가질 수 있도록 설계된 최초의 AI 인프라 서비스입니다.

그 이전까지 AI 컴퓨팅 파워가 필요한 기관에는 두 가지 모두 완벽하지 않은 선택지가 있었습니다. 하나는 클라우드 제공업체에서 임대하는 것으로, 가격이 수시로 변동하고 소유권이 없으며 GPU가 부족할 때 공급이 제한되는 것을 의미합니다. 다른 하나는 전체 시스템을 구매하는 것으로, 구매 비용 전체를 한 번에 부담하고 전력, 냉각 및 유지보수 부담까지 감수해야 합니다. B3IQ는 두 가지의 장점을 모두 취한 세 번째 모델을 제공합니다. 경제적으로는 '소유'입니다. 자산과 수익이 귀하의 것이 됩니다. 운영 측면에서는 '위탁 관리'입니다. 데이터 센터와 유지보수는 플랫폼에 맡깁니다.

B3IQ 사용자는 할부 결제를 통해 전용 NVIDIA GPU 시스템을 구매할 수 있습니다. B3 Labs가 투자한 미국 AI 시스템 제조업체 Andromeda가 미국에서 제조하며, 오리건주에 호스팅됩니다. B3IQ 대시보드를 통해 기기 소유자는 유휴 컴퓨팅 자원을 컴퓨팅 수요와 매칭하여 현금화할 수 있으며, 수익은 구매 잔액을 상환하는 데 사용하거나 수입으로 남길 수 있습니다. 전액을 지불한 후에는 B3IQ에 계속 호스팅하거나 하드웨어 실물 인도를 요청할 수 있습니다.

B3IQ의 초기 사용자에는 뉴욕대학교, 다트머스 칼리지, 하와이대학교 마노아 캠퍼스, 스탠퍼드대학교의 교수진, AI 연구원 및 학생 팀이 포함됩니다. 이들에게 GPU 부족으로 인한 예산 압박은 특히 현실적입니다:

「B3IQ의 '소유자 통제' 모델은 임대와 구매 사이의 실현 가능한 경로로,这正是我们决定与B3IQ合作的原因. 연구 자금은 고정되어 사전에 지급되지만, 클라우드 컴퓨팅 비용은 변동적이라 프로젝트 중간에 예산 항목 하나를 조용히 잠식할 수 있습니다. 컴퓨팅 자원을 예측 가능하고 예산에 편성할 수 있는 비용으로 전환하면 계획 수립이 더 쉬워지고, 과제 책임자나 예산 관리 부서에 설명하기도 더 용이합니다." 하와이대학교 AI 연구원 Pavel Bushuyeu는 말합니다. "자체 컴퓨팅 자원을 보유하면 '컴퓨팅 부족'의 영향도 피할 수 있습니다. GPU 공급이 부족할 때 중앙화 서비스 제공업체는 할당량을 제한하며, 학술 사용자는 종종 유료 기업 고객보다 뒤처집니다. 자체 노드를 보유하면 작업 실행 시 대기열 경쟁이 필요 없습니다. 시스템이 유휴 상태일 때는 유휴 컴퓨팅 수익의 일부를 구매 비용 상환에 사용하여 투자 부담을 줄일 수도 있습니다."

민감한 데이터를 Anthropic, OpenAI 등 제3자 모델 서비스 제공업체에 맡길 수 없는 연구자와 기관에게 이는 상당한 규모의 시장입니다. 하와이대학교의 Pavel Bushuyeu 등 B3IQ 시범 사용자들은 암 연구와 로봇 훈련을 위한 독점 모델을 플랫폼에서 실행 중이며, 이러한 민감한 데이터는 외부로 유출될 수 없습니다. 또한 AI 서비스 제공업체는 특정 키워드와 주제를 직접 차단하여 연구 분야 전체가 진행되지 못하게 할 수 있습니다. 뉴욕대학교 글로벌 센터 Yorke E. Rhodes III 교수의 Ethical Tech CoLab 연구실에서 석사 과정 학생들은 전쟁 지역 대피 데이터를 기반으로 프레임워크와 시뮬레이션을 구축하고 국가 차원의 외교 협상을 추론하는데, 이러한 작업은 상업 모델의 콘텐츠 필터링을 유발하므로 팀 자체 인프라에서만 실행할 수 있습니다.

B3 Labs는 이 모델이 지금 성립할 수 있는 이유가 오픈소스 모델의 빠른 발전 덕분이라고 봅니다. 오늘날 다운로드하여 자체 배포할 수 있는 모델이 충분히 강력해져, 기관은 더 이상 OpenAI 등 중앙화 공급업체의 API를 호출할 필요가 없습니다. 남은 전제 조건은 단 하나, 자체 머신이 있어야 실행할 수 있다는 것입니다. 그리고 이것이 바로 B3IQ가 채워주는 부분입니다.

「기관들은 AI가 어디서 실행되는지, 데이터가 어떻게 처리되는지, 그리고 컴퓨팅 비용으로 얼마를 지불하는지 더 잘 통제하기를 원합니다。」B3 Labs CTO Sean Geng은(는) 말합니다. 「B3IQ는 이러한 결정을 하나의 시스템으로 통합합니다: 전용 하드웨어로 프라이빗 워크로드를 실행하고, 자율적으로 선택 참여할 수 있는 네트워크를 통해 유휴 GPU 컴퓨팅 파워가 가치를 창출하도록 합니다。」

GPU를 구매하거나, 유휴 컴퓨팅 파워를 임대하거나, 네트워크 내 컴퓨팅 파워를 직접 임대하려는 경우 모두 b3iq.org에서 자세한 정보를 확인할 수 있습니다.

B3 Labs 소개

B3 Labs는 기업용 AI를 위한 소프트웨어와 하드웨어를 구축합니다. 회사는 2024년에 설립되었으며, 창립 팀은 Coinbase 출신으로, Pantera Capital, Coinbase Ventures 등 기관으로부터 2,100만 달러 이상의 투자를 유치했습니다. B3 Labs는 두 가지 제품 라인을 운영합니다: B3OS는 기업 AI 실행 엔진으로, AI 에이전트가 기업 시스템 내에서 안정적이고 통제 가능하게 작업을 수행하도록 합니다; B3IQ는 고객이 완전히 소유하고 미국 내에 배포된 GPU 인프라입니다. 더 자세한 정보는 B3OS.org 및 B3IQ.org에서 확인하세요.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia