원문 제목: 《AI 도입이 엔지니어링 시대에 접어들며, 대형 CSP의 새로운 기회와 도전, AI 상업화 평가 기준의 새로운 체계》
원문 저자: qinbafrank, 시장 분석가

편집자 주: 이 글은 시장 분석가 @qinbafrank가 작성했습니다. AI는 '모델 경쟁'에서 '상업화 경쟁'으로 전환 중이며, 기업들이 AI를 대규모로 도입하기 시작하면서 시장의 관심도 모델 성능에서 수익 품질, 기업 ROI, 자본 수익률로 옮겨가고 있습니다. 이 글은 새로운 AI 상업화 분석 프레임워크를 구축하려는 시도입니다. '후기'는 저자가 이 글을 공유할 때 작성한 내용으로, 최근 기술 대기업들의 실적과 AI 상업화에 대한 확장된 사고를 포함해 높은 참고 가치가 있어 편집부에서 본문 앞으로 배치했습니다.

후기

대형 CSP(마이크로소프트, 아마존, 구글, 메타)의 실적은 7월 시장의 두 번째 분수령입니다. 시장이 우려하고 관심을 가지는 점은 무엇일까요? 그 중요성은 후반부에서 다루겠지만, 대형 CSP의 실적은 이미 AI 상업화의 핵심 지표(대형 모델 ARR과 동등한 가중치)가 되었습니다. 핵심은 AI 수요의 성장 속도, 수익 품질, 단위 경제성이 자본 지출, 감가상각, 에너지 비용 및 자금 조달 수요의 상승 속도를 따라잡을 수 있는지 여부입니다. 간단히 말해, AI 상업화 실현 속도가 AI 자본 투입 및 비용 증가 속도를 따라잡지 못하면 대형 기술 기업의 잉여 현금 흐름도 도마 위에 오를 것입니다. 제 생각을 말씀드리겠습니다.

1. 시장 우려는 대략 네 가지 층위로 나눌 수 있습니다

1) 높은 기대치와 과밀 거래

시장은 이미 향후 몇 년간의 지속적인 Capex, 칩 수요 및 클라우드 성장을 가격에 반영했습니다. 몇몇 대형 기술 기업의 2026년 합계 Capex는 약 7300억 달러에 달합니다. 실적이 '좋지만 예상치를 초과하지 못하는' 경우, 과밀한 반도체, 스토리지, 데이터 센터 및 전력 거래도 하락할 수 있습니다. 그러나 대형 기술 섹터 전체가 '수년간의 완벽한 기대치'를 이미 반영했다고 단순히 말할 수는 없습니다. 마이크로소프트, 알파벳, 아마존, 메타는 Office, 검색 광고, 전자상거래, 소셜 광고 등 방대한 비AI 현금 흐름을 보유하고 있습니다. 수년간의 기대치를 가장 쉽게 반영하는 것은 일반적으로 수익이 AI Capex와 밀접하게 연결되고 주기적 탄력성이 더 큰 공급망 기업들입니다.

최근의 디레버리징은 이러한 높은 기대치와 과밀 거래의 정도를 크게 완화시켰습니다.

2) 자본 지출, 감가상각 및 잉여현금흐름의 불일치

수익은 즉시 증가할 수 있지만, 데이터센터, GPU, 전력 공급 및 네트워크로 인한 감가상각은 수년간 지속됩니다. 현재 시장은 '누가 가장 많이 지출했는가'에서 '누가 신규 용량을 가장 빠르게 유료 활용으로 전환하고, 감가상각과 자본 비용을 충당할 수 있는 총이익을 창출하는가'로 초점이 이동하고 있습니다. 아마존의 1분기 잉여현금흐름 적자 전환, 마이크로소프트의 Cloud 총이익률 AI 투자 압박, 알파벳의 감가상각 및 에너지 비용 상승 명시적 경고는 이러한 우려가 단순한 감정적 반응이 아님을 보여줍니다.

3) 시장은 'Capex 과다'와 'Capex 삭감'을 동시에 우려

이는 모순되지 않습니다. 영향 대상이 다르기 때문입니다: CSP 주주에게는 수익 없는 Capex 증가가 부정적이며, 칩, 스토리지, 데이터센터 및 전력 공급망에게는 Capex 삭감이 수익에 부정적입니다.

효율성 향상으로 Capex를 줄이면서 수익과 용량을 유지하는 것은 긍정적이지만, 수요 약화로 Capex를 삭감하는 것은 전체 AI 생태계에 부정적입니다.

따라서 시장이 진정으로 우려하는 것은 Capex의 절대적 증가나 감소가 아니라, 추가 Capex 1달러당 창출되는 지속 가능한 총이익과 잉여현금흐름입니다.

4) AI 상용화 수익과 투자 주기 간의 시간 차이

현재 클라우드 AI 수요는 강력하며, 일부 CSP는 여전히 용량 제약을 받고 있지만, 기업이 파일럿에서 생산, 갱신 및 확장으로 대규모 전환하는 데는 더 오랜 시간이 필요합니다. 시장은 감가상각과 자금 조달 비용이 먼저 재무제표에 반영된 후, 기업 AI 수익이 충분히 빠르게 이를 따라잡을 수 있을지 우려합니다. 또한 금리, 에너지 가격 및 거시적 리스크는 장기 기술 자산에 영향을 미치므로, 모든 하락을 AI 탓으로 돌릴 수 없습니다. 투자자들은 'AI 인프라가 저평가되었다'와 '과도하고 시기상조의 투자'라는 두 내러티브 사이를 반복적으로 오가고 있습니다.

2. 시장 심리를 진정으로 반전시킬 수 있는 요소

단순히 더 많은 모델을 출시하거나, 더 많은 Token 수를 발표하거나, Capex를 다시 인상하는 것만으로는 우려를 해소할 수 없습니다. 시장은 연속적인 증거 체인을 필요로 합니다.

첫째, AI 수익의 폭이 있어야 하며, 소수의 전략적 고객에 의존해서는 안 됩니다.

기업 고객 수, 생산 워크로드, 유료 좌석, 갱신 및 고객당 소비가 동시에 증가해야 하며, OpenAI, Anthropic 등 소수의 초대형 계약을 제외하더라도 수요가 여전히 강력해야 합니다.

둘째, AI 매출 총이익 증가율이 감가상각비 및 운영 비용 증가율을 상회해야 함

단기적으로 매출 총이익률이 하락하는 것은 허용되지만, 신규 AI 매출 총이익은 신규 감가상각비, 에너지, 네트워크 및 인력 투입 비용을 분명히 초과해야 합니다. 단위당 추론 비용은 하락하면서 총 매출 총이익은 지속적으로 증가하는 것이 가장 이상적입니다.

셋째, 백로그(Backlog)가 단기 매출로 전환되어야 함

3년 또는 5년짜리 대형 계약만으로는 부족합니다. 시장은 향후 12~24개월 내 매출 인식 비율, 초기 약정을 초과하는 소비 규모, 신규 용량 가동 후 즉시 활용률을 더 중시할 것입니다.

넷째, 자체 개발 칩 및 모델 최적화를 통한 검증 가능한 경제적 이익

시장이 요구하는 것은 단순히 "Trainium, TPU, MAI가 더 저렴하다"는 것이 아니라, 자체 개발 칩 비중 증가, 토큰(Token)당 또는 성공 태스크(Task)당 비용 하락, 가격 하락폭이 비용 하락폭보다 작은 상황, 가속기(Accelerator) 시간당 매출 총이익 증가, 고객 총 소비액 및 플랫폼 종속 수익의 지속적 성장입니다.

다섯째, 잉여현금흐름(Free Cash Flow)의 바닥이 가시화되어야 함

시장은 다음을 확인하려 합니다: 자본적 지출(Capex) 증가율이 통제 가능한 수준에 도달, 신규 Capex가 계약 수요에 의해 뒷받침됨, 영업 현금흐름 증가가 점점 더 많은 자본 지출을 충당할 수 있음, 자사주 매입 및 재무상태표가 장기적으로 압박받지 않음, 감가상각비 정점과 투자 회수 기간이 명확히 설명될 수 있음. 잉여현금흐름이 마이너스로 전환되는 것은 표면적인 현상에 불과하며, 시장이 실제로 거래하는 것은 그 전환 원인, 규모, 지속 기간, 그리고 향후 회복 가능성입니다.

여섯째, 기업 고객이 실제 투자수익률(ROI)을 입증할 수 있어야 함

가장 강력한 증거는 모델 평가나 토큰 수가 아니라, 고객이 공개하는 다음 정보입니다: 매출 및 전환율 증가, 인건비 및 처리 시간 감소, 파일럿(Pilot) 단계에서 본격 생산 단계로의 전환, 계약 갱신 및 배포 확대, 모든 AI 비용을 포함한 후에도 여전히 매력적인 투자 회수 기간.

2분기 실적 발표에 가장 이상적인 '골디락스(Goldilocks) 조합'은 시장이 가장 원하는 다음과 같은 상황입니다:

클라우드 및 AI 매출이 예상치를 상회 + 이익률이 대체로 안정적 + 백로그가 매출로 전환되기 시작 + Capex가 예상치 못하게 통제 불능 상태가 아님, 또는 신규 Capex가 이미 계약된 수요에 명확히 대응 + 잉여현금흐름이 더 이상 악화되지 않음.

반대로, 가장 위험한 조합은 다음과 같습니다:

토큰 및 사용량이 급증했지만, 고객당 지출, 매출 총이익 및 잉여현금흐름이 개선되지 않음; 잔여 성과 의무(RPO) 증가가 단일 전략적 모델 회사에 의존; Capex가 다시 크게 상향 조정되었지만, 이익률 및 매출 가이던스(Guidance)는 하락.

서문

가장 처음은 7월 6일에 Coinbase의 AI 엔지니어링 실무 적용을 보면서, 기업이 미래에 AI를 도입하고 배포하는 과정에서 어떤 트렌드 변화가 나타날지 깊이 고민하고 연구하기 시작했습니다. 지난주에 두 편의 글을 썼습니다:

CSP(클라우드 서비스 제공업체)가 비용 효율적인 오픈소스 모델을 배포하고 Token을 재판매하는 의미:

앞으로 대형 CSP의 실적 성과는 AI 상업화의 더 중요한 지표이자 가치 재편이 될 것입니다:

이러한 사고를 바탕으로 더 깊이 확장하여 현재의 이 장문을 완성했습니다. 개인적인 논리와 생각을 더 자세히 이야기해보겠습니다.

1. 시나리오별, 다중 모델: 기업의 AI 도입이 엔지니어링 단계로 진입하면서 발생하는 변화

1. 시나리오별: 기업은 더 이상 "어떤 모델이 가장 좋은가?"라고 묻지 않고, "이 작업에는 어떤 모델을 사용해야 하는가?"라고 물을 것입니다.

미래는 "전문적인 고효율 Token"이 아닙니다. Token 자체는 단지 측정 단위일 뿐이기 때문입니다. 실제로 전문화되는 것은: 모델; 추론 전략; 컨텍스트와 데이터; 도구 호출 경로; 하드웨어와 서비스 방식; 보안 및 수동 검토 메커니즘입니다.

기업이 모델을 선택하는 목적 함수는 단순히 모델 성능을 추구하는 것에서 다음과 같이 변화할 것입니다:

작업 순 가치 = 작업 성공 확률 × 비즈니스 가치 − 추론 및 실행 비용 − 오류 및 위험 손실.

이로 인해 네 가지 전형적인 시나리오가 형성됩니다:

예를 들어, 이메일 분류, 요약, 필드 추출, 초기 고객 서비스 분류, 코드 형식 검사 등의 작업은 모델 성능에 대한 한계 요구가 낮지만, 호출량이 많고 가격에 민감한 특징이 있습니다. 이러한 작업은 점차 소형 모델, 오픈 모델 또는 CSP 자체 개발 비용 효율 모델로 이전될 것입니다.

반면, 복잡한 코드 생성, 중요한 계약 분석, 과학적 추론, 전략 연구, 복잡한 Agent 계획 등의 작업은 모델 정확도가 몇 퍼센트 포인트 향상되면 높은 비즈니스 가치를 창출할 수 있으므로, 여전히 최첨단 모델의 프리미엄을 지불할 의향이 있습니다.

2. 기업이 AI를 더 깊이 도입할수록, 전용 AI 시스템이 더 필요합니다.

최첨단 폐쇄형 대형 모델이 얼마나 많은 공공 데이터, 라이선스 데이터 또는 합성 데이터를 사용했든, 일반적으로 특정 기업의 실시간 데이터, 내부 규칙, 조직 권한 및 암묵적 경험을 보유하지 않습니다. 대기업은 "프라이빗 AI 경계"가 더 필요합니다. 여기에는 데이터가 훈련에 사용되지 않음, 프라이빗 네트워크, 전용 테넌트, 권한 격리, 데이터 상주 및 감사 가능성이 포함됩니다. 일부 시나리오만 실제로 로컬화되거나 격리된 배포가 필요합니다.

기업이 실제로 부족한 것은 단순히 '모든 기업 문서를 읽은' 모델이 아니라, 올바른 권한 하에 적절한 데이터를 호출하고 기업 규칙에 따라 행동을 취할 수 있는 시스템입니다.

기업의 사유 데이터는 네 가지 유형으로 분류하여 처리해야 합니다:

반면 '경험형 데이터'는 기업 AI에게 가장 어려운 자산입니다. 경험은 본래 데이터 형태로 존재하지 않기 때문입니다. 이는 일반적으로 다음과 같은 곳에 분산되어 있습니다: 베테랑 직원의 판단, 이메일 및 채팅 기록, 기각되었지만 기록되지 않은 계획, 비정상 이벤트 처리 과정, 시스템 제안을 수동으로 덮어쓴 작업, 고객 불만 및 사후 분석.

이러한 경험을 AI 자산으로 전환하려면 기업은 다음을 구축해야 합니다:

원시 경험 → 작업 샘플 → 전문가 판단 → 정답 및 오답 기준 → 모델 평가 세트 → 피드백 및 후속 훈련

따라서 대기업의 해자는 단순히 '많은 문서를 보유한 것'이 아니라:

암묵적 지식을 기계가 학습 가능하고, 검색 가능하며, 평가 가능하고, 실행 가능한 조직 컨텍스트로 전환할 수 있는 능력입니다.

이것이 바로 기업 AI에 FDE, 데이터 엔지니어, 도메인 전문가 및 비즈니스 책임자가 함께 참여해야 하는 이유이기도 합니다.

위에서 논의한 모든 내용은 한 가지를 가리킵니다:

기업의 AI 도입이 '최고 모델 구매'에서 '사유 데이터, 비즈니스 프로세스 및 다중 모델 시스템을 중심으로 한 엔지니어링 배포' 단계로 전환되고 있습니다.

2. '복합 AI 시스템'에서 '미들 레이어'의 부상

1. 다중 모델, 다중 모듈: AI 제품이 '모델 호출'에서 '복합 AI 시스템'으로 업그레이드됩니다.

미래의 기업 생산급 AI 시스템은 일반적으로 단일 모델 API가 아니라 여러 모듈이 함께 작업을 수행합니다: 사용자 요청, 신원 및 권한, 시나리오 인식, 데이터 및 컨텍스트 획득, 모델 라우팅, 모델 추론, 도구/API 호출, 결과 검증, 위험 제어, 수동 검토 또는 자동 실행, 모니터링 및 지속적 평가.

여기서 '다중 모듈'은 '다중 모델'보다 더 중요합니다. 기업이 최종적으로 구매하는 것은 모델 자체가 아니라 비즈니스 작업을 안정적으로 완료할 수 있는 시스템이기 때문입니다.

기업이 다중 모듈로 나아가는 이유는 무엇일까요?

1) 단일 모델이 품질, 비용, 속도, 프라이버시 및 안정성 측면에서 동시에 최적일 수는 없습니다.

2) 모델 자체는 기업의 실시간 데이터, 권한 체계 및 비즈니스 상태를 이해하지 못합니다. 데이터 레이어, 검색 레이어, 도구 레이어 및 시스템 커넥터를 통해 컨텍스트를 확보해야 합니다.

3) 프로덕션 환경은 감사 가능, 롤백 가능, 모니터링 가능해야 합니다. 모델 출력을 비즈니스 실행과 직접 동일시할 수 없습니다.

4) 모델은 자주 업데이트됩니다. 기업은 비즈니스 로직을 특정 모델과 분리하여 모델이 변경될 때마다 전체 애플리케이션을 다시 작성하지 않도록 해야 합니다.

MCP와 같은 개방형 프로토콜의 등장은 모델과 데이터 소스, 기업 도구 간의 연결 방식을 표준화하고, 각 모델마다 별도로 커넥터를 개발하여 발생하는 파편화를 줄이기 위한 시도입니다.

하지만 다중 모델이 모델 수의 무한 증가를 의미하지는 않습니다.

모델이 하나 추가될 때마다 기업은 보안 감사, 법무 및 지식재산권 평가, 데이터 상주 심사, 품질 벤치마크 테스트, 모델 업데이트 후 회귀 테스트, 운영 및 장애 처리, 공급업체 관리 등 일련의 숨겨진 고정 비용을 부담하게 됩니다. 따라서 가장 가능성 높은 조직 형태는 '각 팀이 수십 개의 모델을 자유롭게 선택하는 것'이 아니라 다음과 같습니다.

중앙에서 제한된 규정 준수 모델 풀을 구축하고, 통합 데이터 및 보안 제어 평면을 마련하며, 각 비즈니스 부서가 시나리오에 따라 다른 모델을 호출하는 방식입니다.

이로 인해 나타나는 추세는 다음과 같습니다. 하부 인프라는 점차 집중되고, 시나리오 혁신은 비즈니스 부서로 분산됩니다.

2. 미들 레이어 가치의 부상: 성립하지만 '통제권'과 '독립적 상업적 가치'를 구분해야 합니다.

향후 미들 레이어는 대략 여섯 가지 유형으로 나눌 수 있습니다.

가장 가치를 얻기 쉬운 미들 레이어

장기적으로 가치를 포착할 가능성이 가장 높은 것은 가장 얇은 모델 래핑 레이어가 아니라, 다음과 같은 하나 이상의 희소 자원을 통제하는 플랫폼입니다.

1) 기업 데이터 및 컨텍스트: 합법적이고 실시간으로 권한에 따라 기업 데이터를 호출할 수 있습니다.

2) 신원 및 보안: AI가 무엇에 접근할 수 있고, 누구를 대신해 무엇을 실행할 수 있는지를 결정합니다.

3) 업무 워크플로우: 작업 진입점과 실행 사이클을 파악합니다.

4) 교차 모델 평가 데이터: 실제 프로덕션 환경의 품질, 비용 및 리스크 데이터를 축적합니다.

5) 배포 역량: 이미 대규모 기업 사용자 또는 시스템 진입점을 보유하고 있습니다.

데이터 플랫폼, 클라우드 플랫폼, 보안 플랫폼, ERP 및 업계 소프트웨어 업체는 따라서 자연스러운 이점을 가집니다.

Microsoft는 AI 고객들이 점점 더 Foundry, Fabric, Cosmos DB 및 보안 거버넌스 서비스를 동시에 사용하고 있다고 밝혔습니다. Google도 AI 사용이 BigQuery와 데이터 워크플로우 성장을 촉진한다고 강조합니다. 이는 AI 모델 호출이 데이터베이스, 분석, 스토리지, 보안 및 Agent 런타임 등 서비스의 고객 유입 경로가 될 수 있음을 시사합니다.

상품화되기 쉬운 미들웨어 계층

다음 미들웨어 계층은 사용 가치가 있지만, 독립적인 수익 풀을 형성하지 못할 수 있습니다:

· 단순 API 집계;

· 독점 데이터가 없는 모델 라우팅;

· 일반적인 프롬프트 관리;

· 업무 사이클이 없는 기본 Agent 오케스트레이션;

· 여러 모델 간 요청만 전달하는 얇은 계층 제품.

그 이유는 AWS, Microsoft, Google 등 CSP가 이러한 기능을 클라우드 서비스로 무료 또는 저렴하게 번들로 제공할 수 있기 때문입니다. 대규모 애플리케이션 업체도 이를 기존 제품에 내장할 수 있습니다.

따라서 더 정확한 판단은 다음과 같습니다:

미들웨어 계층의 전략적 중요성은 반드시 증가하지만, 미들웨어 계층 독립 업체의 총 가치는 반드시 같은 비율로 증가하지는 않습니다.

미들웨어 계층은 AI 산업의 '운영체제'가 될 수 있지만, 최종적으로 경제적 이익을 얻는 주체는 CSP, 데이터 플랫폼, 보안 및 아이덴티티 플랫폼, 시스템 레코드를 보유한 애플리케이션 소프트웨어 업체, 그리고 클라우드 간 중립성과 독점 생산 데이터를 가진 소수의 독립 미들웨어 업체일 것입니다.

클라우드 간 중립성은 독립 업체가 CSP의 번들링에 대항하는 중요한 이점이 될 것입니다. 대기업은 일반적으로 모델, 데이터, 평가 및 거버넌스를 단일 클라우드 플랫폼에 완전히 고정시키는 것을 원하지 않으므로, 독립 미들웨어 계층에는 여전히 공간이 있지만, '단순 모델 호출'을 넘어서는 역량을 제공해야 합니다.

3. 멀티모델 시대, 초대형 CSP가 견고한 중간 계층이 될까?

1. CSP가 오픈 모델과 자체 개발 가성비 모델을 배포하면 어떤 변화가 생길까?

변화 1: 모델 호출이 단일 공급업체 조달에서 모델 조합 관리로 전환

기업은 더 이상 하나의 모델 업체와 깊이 묶이지 않고, 모델 조합을 유지하게 된다:

· 최첨단 폐쇄형 모델은 가장 높은 성능이 요구되는 작업을 담당;

· 오픈 모델은 표준화 및 프라이빗화 가능한 작업을 담당;

· CSP 자체 개발 모델은 빈도가 높고 비용에 민감한 작업을 담당;

· 기업 자체 모델은 고도로 전문화되고 데이터에 민감한 작업을 담당.

CSP는 모델 조합의 진입점이자 라우터가 된다. 모델 업체들이 경쟁하는 것은 더 이상 단순한 고객이 아니라, 라우팅 시스템 내에서 모델의 작업 할당 점유율이다.

따라서 새로운 모델 경쟁 지표에는 다음이 포함된다: 얼마나 많은 기업 규정 준수 모델 풀에 포함되는가? 라우터에서 얼마나 많은 요청을 받는가? 고가치 작업인가 저가 작업인가?

변화 2: 모델 가격은 하락하지만, 총 AI 지출은 반드시 줄어들지 않음

모델 크기 축소, 캐시 증가, 컨텍스트 압축은 작업당 토큰 수와 토큰당 가격을 낮춘다. 그러나 비용 하락은 더 많은 사용 시나리오를 촉발하여 작업량을 크게 증가시킬 수도 있다.

변화 3: CSP 수익원이 모델 수수료에서 풀스택 부가 서비스로 확장

오픈소스 모델이 높은 모델 라이선스 수익을 창출하지 않더라도, CSP는 다음 단계에서 수익을 얻을 수 있다: GPU, TPU 및 자체 개발 ASIC 컴퓨팅; 호스팅 추론 서비스; 데이터베이스 및 벡터 검색; 객체 스토리지; 네트워크 및 데이터 전송; Agent 런타임; 보안 및 신원; 평가, 로깅 및 모니터링; 엔터프라이즈 지원 서비스.

따라서 CSP가 진정으로 신경 쓰는 것은 모델 자체의 수익 점유율이 아니라:

CSP AI 총 마진 = 추론 마진 + 데이터 부가 마진 + 스토리지 네트워크 마진 + 보안 거버넌스 마진 + Agent 런타임 마진

AWS는 Bedrock 고객 지출이 전월 대비 증가하고 토큰 처리량이 크게 상승했다고 밝혔으며, 동시에 AgentCore 등록, 정책 및 평가 서비스를 출시했습니다. Microsoft와 Google도 모델, 데이터, 에이전트 및 거버넌스 서비스의 조합을 추진하고 있습니다. 이는 CSP가 모델 서비스를 풀스택 클라우드 소비로 전환하려는 시도임을 보여줍니다.

변화 4: 모델 제공업체의 가치는 사라지지 않지만, 능력의 최상위와 애플리케이션 영역으로 확장될 것입니다

오픈소스와 자체 개발된 가성비 모델은 중저가 모델의 가격을 압박하지만, 최첨단 모델의 가치를 자동으로 없애지는 않습니다. 모델 제공업체는 세 가지 경로를 취할 수 있습니다: 1) 지속적으로 능력 상한선을 높여 복잡한 작업에 대한 프리미엄 유지; 2) 에이전트, 코딩, 연구 등 고부가가치 애플리케이션으로 상향 이동; 3) 맞춤형 후훈련, 보안, 기업 거버넌스 및 전용 용량 제공.

최종적으로는 다음과 같은 구조가 형성될 가능성이 높습니다:

CSP가 인프라와 모델 배포를 통제하고;
최첨단 모델 제공업체가 능력 상한선을 통제하며;
중간 계층이 컨텍스트, 거버넌스 및 스케줄링을 통제하고;
애플리케이션 제공업체가 워크플로와 사용자 진입점을 통제합니다.

이는 단일 계층의 승자 독식이 아니라, 각 계층이 서로 다른 유형의 수익을 거두는 구조입니다.

변화 5: 기업의 모델 계층 협상력은 높아지지만, 플랫폼 종속은 심화될 수 있습니다

다중 모델과 개방형 모델은 기업이 단일 모델 제공업체에 의존하는 정도를 낮춥니다.

하지만 기업의 데이터, 권한, 에이전트 상태, 평가 시스템 및 워크플로가 모두 동일한 CSP에 배포된다면, 모델 계층 종속은 줄어드는 반면 클라우드 플랫폼 종속은 오히려 증가할 수 있습니다.

즉:

모델 교체 가능성이 높아진다고 해서 전체 아키텍처의 이전 가능성이 높아지는 것은 아닙니다.

2. CSP는 수평적 AI 기반을 통제하고, 수직적 SaaS는 비즈니스 실행 계층을 통제합니다

CSP가 가장 많이 포착할 가능성이 있는 가치: GPU, TPU 및 자체 개발 ASIC 연산 능력; 오픈소스 모델 호스팅; 폐쇄형 모델 배포; 모델 미세 조정 및 증류; 데이터베이스 및 데이터 레이크; 벡터 검색 및 지식 그래프; 네트워크 및 스토리지; 신원 및 권한; 보안 및 거버넌스; 에이전트 런타임; 평가 및 관찰 가능성; 기업 기술 지원.

수직 SaaS의 장악력: 작업 진입점; 비즈니스 객체; 비즈니스 의미; 사용자 권한; 과거 작업 데이터; 시스템 기록; 업계 규칙; 최종 실행; 고객 결과 피드백.

따라서 저렴한 모델을 고부가가치 비즈니스 결과물로 포장할 수 있다.

하지만 이는 실제로 워크플로우와 핵심 독점 데이터를 보유한 SaaS에만 해당된다. 일반 모델에 단순한 인터페이스를 씌운 얇은 애플리케이션은 오히려 모델 제공업체나 CSP에 의해 대체되기 쉽다. 이전에 여기서

이 점을 논의한 적이 있다.

3. '이중 중간 계층' 형성 가능성

미래 기업 AI 아키텍처는 다음과 같을 수 있다:

CSP가 반드시 수직 SaaS를 우회하여 전체 비즈니스 프로세스를 통제할 수 있는 것은 아니다. 수직 SaaS도 하위의 대규모 컴퓨팅 자원과 다중 모델 인프라를 독립적으로 감당하기는 어렵다. 누가 가장 많은 가치를 포착할지는 다섯 가지 통제 지점에 달려 있다

진정한 고부가가치 계층은 모델에 가장 가까운 계층이 아니라, 다음을 동시에 통제할 수 있는 계층이다:

컨텍스트, 권한, 워크플로우, 실행 및 결과 피드백.

전통적인 SaaS 프로젝트는 일반적으로:

Fit-gap 분석 → 구성 → 데이터 마이그레이션 → UAT → 출시.

기업 AI 프로젝트는 이에 더 가깝다:

시나리오 선별 → 데이터 권한 → 평가 세트 → 모델 선택 → RAG 및 도구 연결 → 모델 라우팅 → 보안 경계 → 수동 검토 → 프로덕션 모니터링 → 피드백 및 후속 학습.

가장 큰 차이점은:

SaaS는 주로 기존 소프트웨어 내에서 프로세스를 구성하는 것; AI는 생산 과정에서 확률 시스템을 지속적으로 최적화하는 것.

따라서 AI 구현은 소프트웨어 엔지니어링, 데이터 엔지니어링, 모델 엔지니어링, 프로세스 컨설팅 및 조직 변화의 결합체에 더 가깝다.

넷. 초대형 CSP의 가치 재정의

1. 초대형 CSP의 가치 재정립

이전에 논의한 바 있습니다: 시장은 CSP, 특히 몇몇 초대형 CSP를 단순한 중개상으로 보았습니다. 그들은 컴퓨팅 파워와 토큰을 판매하면서도 막대한 자본 지출을 부담해야 했지만, 가장 큰 가치를 포착하지는 못했습니다. 이제 '효율적인 중형 모델 + 대규모 배포'가 생산 환경에서도 그 가치를 입증했으며, 단순히 파라미터 경쟁에만 집중하지 않게 되었습니다.

따라서 과거의 인식도 바뀌어야 합니다: 초대형 CSP는 이미 기업 AI 프로세스의 멀티 모델 아키텍처에서 'AI 운영 체제 계층'이 되었습니다.

비용 및 수익 구조의 변화: CSP가 폐쇄형 모델을 재판매할 때

CSP가 받는 수익 분배 비율은 제한적입니다(보통 20~50%로 계약에 따라 다름). 또한 모델 제공업체의 가격 압박을 감수해야 합니다. 자체 호스팅 오픈소스 모델 재판매: 오픈소스 모델은 기본적으로 라이선스 비용이 없으며, CSP는 자체 컴퓨팅 파워, 전기료 및 운영 유지비만 부담하면 됩니다. CSP는 거의 모든 마크업(컴퓨팅 파워 비용 차감 후)을 가져갑니다. 가격 책정은 오픈소스 커뮤니티의 실제 비용 + 합리적인 프리미엄을 참고할 수 있어 여유가 더 큽니다.

자체 개발 모델은 말할 것도 없이, 거의 모든 수익이 CSP에 귀속됩니다.

2. 그러나 초대형 CSP에게는 새로운 도전 과제도 있습니다: 시간 차이

전체 과정을 네 단계로 나눌 수 있습니다. 기간은 단순히 예시일 뿐이며, 업종에 따라 큰 차이가 있습니다.

1단계: 내부 연구 개발 및 용량 투자

이 단계: CSP가 자체 모델을 훈련하거나 후처리하고, 오픈 모델을 배포하며, 칩, 추론 프레임워크 및 모델 라우팅을 최적화하고, 보안, 평가 및 거버넌스 플랫폼을 구축합니다.

재무 성과는 다음과 같을 수 있습니다: 자본 지출 증가; 연구 개발 비용 및 감가상각비 증가; 외부 클라우드 수익이 용량 제약을 받음; 총이익률 압박; 직접적인 상업 수익 제한적.

2단계: 고객 테스트 및 FDE 구현

이 단계: 고객이 시나리오를 선별하고, 데이터 및 권한을 정리하며, RAG, 평가 세트 및 도구 연결을 구축하고, FDE가 첫 번째 생산 시스템을 완료하도록 지원합니다.

재무 성과는 다음과 같을 수 있습니다: 전문 서비스 및 미세 조정 수익 증가; 클라우드 소비 증가는 여전히 미미함; 다수의 POC가 아직 규모화되지 않음; 인력 투입 증가; 서비스 마진율이 소프트웨어 마진율보다 낮을 수 있음.

3단계: 프로덕션 추론 확장

이 단계에서는 고객 워크플로가 안정화되고, 에이전트가 지속적으로 운영되며, 추론, 데이터베이스, 스토리지 및 보안 소비가 증가합니다. 수직적 SaaS는 사용량이나 비즈니스 결과에 따라 요금을 부과하기 시작합니다.

재무 성과는 CSP 클라우드 소비 가속화, SaaS AI 부가 수익 상승, 데이터 및 보안 부착 수익 증가, 고객 갱신 및 확장 개선, 단위 추론 비용 하락으로 나타날 수 있습니다.

4단계: 모델 및 워크플로 최적화

이 단계에서는 고빈도 작업이 소형 모델, 자체 개발 모델 및 오픈 모델로 전환되고, 고가치 작업은 계속해서 최첨단 모델을 사용합니다. 라우팅, 캐싱 및 증류를 통해 비용이 절감되며, FDE 성과가 점차 제품화됩니다.

재무 성과는 토큰 단가 하락, 작업량 증가, 모델 공급업체 수익 구조 분화, CSP 풀스택 부착 수익 증가, 수직적 SaaS가 워크플로 및 결과를 통해 더 많은 가치를 포착, 성공적인 배포자의 마진과 자본 수익률 개선으로 나타날 수 있습니다.

따라서 시장은 먼저 다음을 볼 가능성이 높습니다:

Capex 및 인력 투입 증가
→ 그다음 POC 및 계약
→ 그다음 프로덕션 워크로드
→ 마지막으로 잉여 현금 흐름 및 ROIC.

이러한 시간 차이가 실제로 현재 AI 투자 논쟁의 핵심입니다.

5. 새로운 AI 상업화 지표 체계

1. 앞으로는 더 이상 'AI 수익이 얼마인가'만 묻지 말고, 다섯 가지 질문에 동시에 답해야 합니다.

가장 합리적인 평가 방식은 새로운 단일 지표를 찾는 것이 아니라, 모델에서 자본 수익률까지 이어지는 7단계 깔때기를 구축하는 것입니다.

2. 대형 모델 ARR은 여전히 중요하지만, '최종 지표'에서 '역량 수요 선행 지표'로 전환되어야 합니다

대형 모델 공급업체의 ARR은 여전히 매우 중요하며, 그 이유는 네 가지입니다.

1) ARR은 기업이 지능형 역량에 비용을 지불할 의사가 있음을 증명합니다. ARR은 적어도 일부 고객이 이미 유료 상태에 진입했으며, 지속적인 계약을 체결하거나 안정적인 소비를 형성할 의향이 있음을 보여줍니다.

2) ARR은 프론티어 모델이 여전히 프리미엄을 유지하는지 반영합니다. 모델 성능이 지속적으로 더 높은 작업 성공률을 제공한다면, 고객은 고가치 작업에 프리미엄을 지불할 의사가 있습니다. 대량의 일상적인 작업이 소형 모델로 전환되더라도, 프론티어 모델은 복잡한 추론, 코딩, 연구 및 에이전트 작업을 통해 높은 가격을 유지할 수 있습니다.

3) ARR은 프론티어 모델 개발사의 연구개발 및 컴퓨팅 파워 재투자 능력을 결정합니다. 모델 학습, 후학습, 추론 서비스, 보안 평가 및 기업 영업 모두 지속적인 자본이 필요합니다. ARR은 모델 개발사가 '수익 → 연구개발 → 성능 향상 → 더 많은 수익'의 선순환을 형성할 수 있는지 여부를 결정합니다.

4) ARR은 생태계 영향력의 대리 지표이기도 합니다. 개발자 수, API 호출, 기업 계약, 모델이 애플리케이션에 침투하는 깊이는 궁극적으로 ARR에 부분적으로 반영됩니다.

3. 종합적으로

대형 모델 ARR은 여전히 핵심적입니다. 이는 기업이 프론티어 성능에 비용을 지불할 의사가 있음을 증명하기 때문입니다.

초대형 CSP 실적은 향후 더 포괄적이고 가중치가 높아져, 기업의 AI 도입 과정에서 중간 계층이 축적한 가치를 보여줍니다.

최종 평가 기준은 성공적인 작업 경제성, 기업 ROI 및 자본 수익률로 전환됩니다.

AI 상업화 판단은 '대형 모델 ARR'과 'CSP 클라우드 수익' 중 하나를 선택하는 것이 아니라, 완전한 증거 체인을 형성해야 합니다:

모델 ARR은 유료 수요를 증명
→ 생산 워크로드는 도입 깊이를 증명
→ 단위 성공 작업 마진은 운영 품질을 증명
→ 기업 ROI는 수요 지속 가능성을 증명
→ 잉여 현금 흐름과 ROIC는 자본 지출의 합리성을 증명합니다.

최종적으로 가장 주목할 가치가 있는 것은 '얼마나 많은 토큰이 생성되었는가'가 아니라

AI 경제 가치 = 생산 작업 수 × 작업당 가치 × 공급업체 가치 포착률 × 마진율 − 자본 점유 비용​

이것이 멀티 모델, 멀티 모듈 시대에 AI 상업화를 측정하는 총체적 프레임워크입니다.

위의 모든 내용은 사실 하나의 연속적인 인과 사슬을 형성합니다:

비즈니스 시나리오 차이 확대
→ 기업이 더 이상 하나의 모델로 모든 작업을 해결하지 않음
→ 다중 모델, 다중 모듈의 복합 AI 시스템 형성
→ 라우팅, 데이터, 평가, 거버넌스, 보안 등 미들 레이어가 제어 평면이 됨
→ 모델 레이어의 가치는 사라지지 않지만, 대형 모델 ARR이 '유일한 상업화 지표'에서 '중요한 선행 지표'로 하락
→ 최종 평가 기준은 성공적인 작업 경제성, 기업 ROI 및 자본 수익률로 전환

이는 더 이상 순수한 아키텍처 구상이 아닙니다. AWS Bedrock과 Microsoft Foundry는 이미 품질, 비용 및 작업 복잡성에 따른 모델 라우팅을 정식 제품으로 출시했습니다. 마이크로소프트는 1만 개 이상의 Foundry 고객이 두 개 이상의 모델을 사용했으며, 약 5천 개의 고객이 오픈소스 모델을 사용했다고 밝혔습니다. Google Model Garden도 자체 모델, 타사 폐쇄형 모델 및 오픈 모델의 호스팅 또는 자체 배포 방식을 동시에 제공합니다.

물론 이 반복은 아직 초기 단계에 있지만, 추세는 점점 더 명확해지고 있습니다.

원문 링크

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia