딥시크가 단일 GPU당 시간당 38달러의 과금 수익을 창출할 수 있다고 공개하면서 AI 추론 수익성에 대한 관심이 촉발되었다.

동찰 Beating AI 속보, DeepSeek가 최근 추론 프레임워크 DeepInfer를 오픈소스로 공개하고, 해당 클러스터가 하루에 155조 토큰을 처리할 수 있다고 밝혔다. DeepSeek API 비수기 가격으로 환산하면 평균 GPU 시간당 약 38달러의 이론적 과금 수익에 해당하며, 연중 무휴 운영 기준으로 연간 과금 수익은 33만 달러를 초과한다.

DeepSeek는 전문가 병렬화, 추측 디코딩, 비동기 스케줄링 및 KV Cache 최적화 등의 기술로 추론 효율을 높였으나, 위 수치는 이론적 과금 수익일 뿐 실제 매출이나 이익과는 같지 않다. 실제 수익은 GPU 가동률, 유료 요청 비율, 하드웨어 및 전력 비용, 서비스 지연 등의 요인에 따라 달라진다.

AI 업계는 수요 증가와 수익성 압박이 공존하는 상황에 직면해 있다. 한편으로 중소기업의 AI 애플리케이션 및 Agent 배포 수요가 지속적으로 증가하고 있으며, 다른 한편으로 모델 훈련, 추론 서비스 및 인프라 투자가 일부 기업의 이익을 잠식하고 있다. 보도에 따르면 CoreWeave의 2분기 매출은 전년 동기 대비 약 112% 증가한 25억 7,500만 달러를 기록했으나 여전히 6억 2,600만 달러의 순손실을 냈다.

분석에 따르면 추론 효율 향상은 AI 서비스의 이익 공간을 확대할 것으로 기대되지만, 토큰을 효율적으로 생산하는 것이 반드시 상업적 수익을 의미하지는 않는다. 모델 호출량이 증가함에 따라 기업은 여전히 컴퓨팅 비용, 서비스 가격 책정 및 고객의 지불 의향 간의 균형 문제를 해결해야 한다.