토큰 실제 비용이 0.99달러로 하락, SemiAnalysis가 공개한 대형 모델 소비가 이미 급여의 30%를 차지

동차 Beating 모니터링에 따르면, 기업 현장에서 광범위하게 도입된 에이전트 AI가 전문 서비스업의 단위 경제를 뒤흔들고 있습니다. 연구 기관 SemiAnalysis는 내부 대형 모델 토큰 지출이 이미 직원 총 급여의 30%를 차지하며, 1인당 월평균 소비량이 약 50억 개의 토큰에 달하고, 핵심 기여자의 월 소비량은 1000억 개를 초과한다고 밝혔습니다. 기존에는 애널리스트가 몇 시간씩 소요하던 엑셀 모델 변환과 재무제표 차트 제작이 이제는 몇 분 안에 수 달러의 토큰 비용으로 완료될 수 있습니다.

실제 사용 비용의 급격한 하락이 전문 서비스업의 단위 경제를 재편하는 핵심입니다. Opus 4.7의 공식 가격은 입력 100만 토큰당 5달러, 출력 25달러로 높지만, 에이전트 작업의 입력 대 출력 비율이 300:1에 달하고, 프롬프트 캐시 적중률이 90% 이상이기 때문에 실제 혼합 토큰 비용은 100만 개당 0.99달러에 불과합니다.

소프트웨어와 하드웨어의 동시 가속화가 생성 비용을 더욱 낮추고 있습니다. B300에서 DeepSeek R1을 실행할 때, wideEP, disagg 및 MTP 소프트웨어 최적화를 통해 단일 GPU 처리량이 기준선 1000 토큰/초에서 14000 토큰/초로 급증하여 순수 소프트웨어 처리량이 14배 향상됩니다. 하드웨어 측면에서는 최적 구성된 GB300 NVL72의 처리량이 H100의 17배(FP4 기준 32배)에 달해, 대형 모델 개발사의 마진 성장에 구조적 보호막을 제공하며, 2027년 토큰 가격이 현재 수준보다 훨씬 낮아질 것으로 예측됩니다.