수십억 달러 상당의 토큰을 무분별하게 소진한 후, 실리콘밸리 대기업들이 직원들의 토큰 사용량을 제한하기 시작했다.

이 글을 읽으려면 14 분

실리콘밸리 대기업들이 AI에 엄청난 자금을 쏟아붓고 있지만, 정작 그 돈이 어디에 쓰이는지조차 모르고 있다.

원문 제목: 《수십억 달러의 토큰을 태운 후, 실리콘밸리 대기업들이 직원 토큰 사용량을 제한하기 시작했다》
원문 저자: 화림무왕, GeekPark

기업이 자동화하는 것은 직원이 '싫어하는 일'이지, '돈 버는 일'이 아니다.

며칠 전, GeekPark은 AI에 막대한 투자를 한 마이크로소프트가 내부적으로 대부분의 직원에게 Claude Code 라이선스를 중단했다고 보도했다.

이 사건은 매우 기이하다. 이번 AI 도입 물결에서 기업 고객을 대상으로 한 가장 큰 마케팅 포인트는 '효율성 향상'이었기 때문이다. 효율성을 높일 수 있다면, 왜 마이크로소프트는 직원들이 Claude Code를 사용하지 못하게 한 것일까?

마이크로소프트만 이런 조치를 취한 것은 아니다. '토큰 사용량 축소'와 직원들의 무분별한 Vibe Coding 장려 중단은 실리콘밸리 대기업들의 새로운 트렌드가 되고 있다.

Uber는 4개월 만에 연간 AI 토큰 예산을 모두 소진했다. Salesforce는 Anthropic에 매년 약 3억 달러의 수표를 발행한다. 한 AI 컨설턴트는 자신의 고객 중 한 곳이 한 달에 AI 지출로 5억 달러를 썼다고 밝혔다. Meta는 심지어 내부 'tokenmaxxing 순위표'를 조용히 내렸다——그 순위표는 원래 직원들이 AI를 더 많이 사용하도록 장려하기 위한 것이었다.

이제 기업들은 몇 년 전만 해도 상상조차 하지 못했던 일을 하고 있다:

직원의 AI 사용을 제한하고 감시하는 것.

왜 대기업들이 모두 방향을 전환한 것일까?

01 'Tokenmaxxing', 시대의 축소판

오늘날의 비용 위기를 이해하려면 먼저 'tokenmaxxing'이 무엇인지 알아야 한다.

이 용어는 대략 2025년부터 유행하기 시작했으며, 문자 그대로 '토큰 사용량 극대화'를 의미한다. 그 뒤에는 다음과 같은 관리 논리가 숨어 있다——회사가 AI 도구에 큰돈을 썼다면, 직원들은 그것을 열심히 사용해야 하며, 많이 사용할수록 '디지털 전환'을 잘하는 것이고, 적게 사용하면 자원을 낭비하는 것이다. 그래서 많은 회사들이 사용 할당량, 순위표, 심지어 성과 평가까지 설정하여 직원들이 AI를 사용하도록 재촉했다.

결과는?

직원들이 회사의 엔터프라이즈급 AI 모델을 사용해 날씨를 확인하고, 생일 축하 메시지를 작성하며, 오늘 뭐 먹을지 묻기 시작했다.

2444개 기업을 대상으로 한 연구에 따르면, 기업이 AI 토큰에 1달러를 지출할 때마다 0.44달러는 AI가 생성한 버그를 수정하는 데, 0.27달러는 AI가 만든 코드를 다시 작성하는 데, 0.11달러는 검토 및 병합 지연으로 소모된다.

즉, AI 도입 비용 1달러 뒤에는 약 80%의 숨은 손실이 추가로 발생한다는 뜻이다.

투자자 Shruti Gandhi는 적절한 비유를 들었다. "토큰맥싱(tokenmaxxing)하는 기업은 마치 모든 조명을 켜놓고 생산성을 측정하는 회사와 같다. 더 많은 돈을 쓴다고 해서 더 많은 결과물이 나오는 것은 아니다."

이들 기업 대부분은 직원들이 AI로 무엇을 하고 있는지조차 모르며, AI 덕분에 해당 작업의 완료 방식에 어떤 변화가 생겼는지도 전혀 알지 못한다.

이 '돈 태우기 경쟁'은 2024년부터 2025년까지 이어져, 올해 들어 집중적으로 폭발했다. JP모건은 강도 높은 보고서를 발표했는데, 제목이 불편할 정도로 직설적이다. — 《AI 토큰 비용이 인터넷 수익을 잠식하고 있다》.

Shopify, Spotify, ServiceNow, Roku는 실적 발표 컨퍼런스콜에서 AI가 운영비용의 주요 압박 요인이 되고 있다고 언급했다. 업계 전반의 분위기는 'AI를 얼마나 잘 쓰는가'에서 '이 돈을 쓸 가치가 있는가'로 바뀌기 시작했다.

02 CEO가 ROI를 의심하기 시작할 때

AI 투자에서 명확하고 측정 가능한 수익을 확인할 수 있다고 답한 CFO는 14%에 불과하다.

Uber의 최고운영책임자(COO) Andrew Macdonald는 팟캐스트에서 솔직한 말을 꺼냈다. 직원 개인의 생산성 향상과 회사 전체의 비즈니스 영향력을 연결 짓는 것이 매우 어렵다는 것이다. "AI가 사용자에게 얼마나 많은 가치 있는 기능을 제공했는지 파악할 수 없다면, 토큰 비용을 정당화하기가 더욱 어려워진다."

이 말은 기업 AI가 직면한 핵심 딜레마를 정확히 짚었다. 개인의 효율성 향상이 회사의 수익 증가로 이어지지는 않는다.

직원이 AI를 사용해 주간 보고서를 세 배 빠르게 작성해도 회사 매출은 변하지 않는다. 엔지니어가 AI로 코드를 두 배 빠르게 생성하지만, 코드 '이탈률'—즉 폐기되거나 재작성되는 비율—은 800% 증가했다.

마이크로소프트 전 최고 AI 책임자 소피아 벨라스테기는 많은 관리자들이 불편해하는 말을 했다: "대부분의 사람들은 회사에 가장 가치 있는 업무가 아닌, 자신이 싫어하는 업무를 자동화하는 것을 기본으로 선택한다."

쉽게 말해, 기업이 자동화하는 것은 직원이 '싫어하는 일'이지, '돈 버는 일'이 아니다.

이는 기술의 문제가 아니라 우선순위의 문제다. 또한 생성형 AI 프로젝트의 약 30%가 개념 증명 단계에서 중단되는 이유이기도 하다. 비용도 불분명하고 가치도 불분명하니, 사장이 당연히 갱신하지 않는다.

Salesforce CEO 마크 베니오프의 접근 방식은 상당히 대표적이다. 연간 3억 달러의 Anthropic 청구서를 앞두고, 그는 '스마트 라우터'를 기대했다: 어떤 쿼리는 최고급 모델을 사용할 가치가 있고, 어떤 것은 저렴한 소형 모델로 충분한지 판단해주는 것이다.

이 아이디어 자체는 새롭지 않다. 이미 클라우드 컴퓨팅 시대에 '사용한 만큼 지불', '리소스 최적화'는 표준 운영 방식이었다. 하지만 AI라는 물결이 너무 급하게 밀려와 모두가 먼저 사고 나중에 생각했고, 이제야 보충 수업을 시작한 것이다.

03 이성적 회귀, 아니면 겨울의 전조?

마이크로소프트는 최근 대부분의 Claude Code 기업 라이선스를 취소했으며, 공식적인 이유는 비용 요인을 지목했다. 이 사건은 업계에서 적지 않은 논란을 불러일으켰다. 어쨌든 마이크로소프트 자체가 OpenAI의 최대 투자자이면서 동시에 경쟁사의 구독을 줄이고 있는데, 여기에 비용 고려가 얼마나 있고 전략적 배치가 얼마나 있는지 명확히 말하기 어렵다.

하지만 어쨌든 이것은 하나의 신호를 나타낸다: 기업들이 발로 투표하기 시작했다.

Harness와 CloudZero는 거의 같은 날인 5월 28일에 각각 AI 비용 관리 도구를 출시했다. 하나는 AI 지출과 ROI를 실시간 모니터링하는 데 중점을 두고, 다른 하나는 'AI 재무 제어 평면'을 내놓아 기업이 AI에 쓰는 1달러마다 구체적인 비즈니스 성과와 연결되도록 돕는다.

이 두 제품의 등장 자체가 문제를 설명한다: 시장에 수요가 있고, 그 수요가 매우 긴박하다는 것이다.

HubSpot은 올해 4월부터 AI 에이전트의 가격 모델을 조정했다. 더 이상 토큰당 요금을 부과하지 않고, '해결된 대화 수' 또는 '생성된 리드 수'에 따라 과금한다. 이는 방향성의 전환으로, 판매자의 이익과 구매자의 실제 산출물을 정렬한 것이다. ServiceNow도 유사한 조정을 하고 있다. AI 공급업체들은 '사용량'을 계속 팔고 '결과'를 팔지 않으면, 기업 고객이 언젠가 집단 반발할 것임을 깨닫기 시작했다.

이번 조정은 AI 산업화가 반드시 겪어야 할 성장통일까, 아니면 더 큰 위기의 서막일까?

나는 전자에 가깝다고 본다. 하지만 한 가지 세부 사항이 다소 우려된다: 글로벌 AI 소프트웨어 지출은 2026년에 2조 5900억 달러에 이를 것으로 예상되며, 전년 대비 47% 증가할 전망이다. 그러나 동시에 엔지니어링 책임자의 94%는 핵심 ROI 지표가 여전히 부재하다고 밝혔다. 돈은 점점 더 많이 쓰이지만, 어디에 소진되고 있는지, 그만한 가치가 있는지 아무도 모른다——이 모순이 해결되지 않는다면, 다음 '토큰맥싱(tokenmaxxing) 순간'은 시간문제일 뿐이다.

Fortune 매거진의 한 분석은 이렇게 직설적으로 말한다: "토큰맥싱은 쉽지만, 워크플로우를 재설계하는 것은 어렵다." 대부분의 기업이 지금 하고 있는 일은 기존 프로세스를 최적화하는 것이지, 비즈니스 모델을 재발명하는 것이 아니다. 이것이 AI의 진정한 가치가 있는 곳이며, 대부분의 기업이 아직 도달하지 못한 지점이기도 하다.

이성적 회귀는 좋은 일이다. 하지만 이성적 회귀 이후, 기업은 더 어려운 질문에 답해야 한다: AI가 우리 비즈니스에 대해, 도구여야 하는가, 아니면 새로운 사고의 틀이어야 하는가?

단순히 AI를 사용해 기존 작업을 더 빠르게 수행하는 것뿐이라면, 언젠가 청구서가 당신을 이 질문 앞으로 다시 몰고 갈 것이다.