BlockBeats 뉴스, 6월 28일 - Coinbase CEO 브라이언 암스트롱(Brian Armstrong)이 공개한 바에 따르면, 회사는 기본 AI 모델을 GLM 5.2, Kimi 2.7 등 오픈소스 모델로 전환하고, 스마트 모델 라우팅, 캐시 최적화 등의 조치를 결합하여 토큰 사용량이 지속적으로 기하급수적으로 증가하는 상황에서 AI 지출을 거의 절반으로 줄였습니다.
브라이언 암스트롱은 Coinbase가 더 이상 사용량 제한이나 소비 알림에 의존해 비용을 통제하지 않고, 기본적으로 비용이 더 낮은 오픈소스 모델을 채택하며, 필요한 경우에만 성능이 더 뛰어난 최첨단 모델을 호출한다고 밝혔습니다. 동시에 회사는 자동 모델 라우팅, 캐시 적중률 향상, 컨텍스트 간소화 등을 통해 추론 비용을 추가로 절감하고 있습니다.
주목할 점은, 이 같은 발언이 Anthropic CEO가 최근 여러 차례 공개적으로 오픈소스 모델과 모델 증류(Model Distillation)에 대한 우려를 표명한 시점에 나왔다는 것입니다. Coinbase의 사례는 기업용 AI 애플리케이션에서 오픈소스 모델이 비용과 효율성을 동시에 고려하는 중요한 선택지가 되고 있음을 보여줍니다.