홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

OpenRouter 추론 라우팅 업그레이드: 6% 더 지불하면 응답 속도 약 17% 향상

동찰 Beating AI 속보, OpenRouter가 기본 추론 라우팅 알고리즘을 업그레이드했다고 발표했습니다. 과거에는 주로 가격을 기준으로 추론 서비스 제공업체를 선택했지만, 이제는 속도, 안정성 및 실제 호출 비용을 종합적으로 고려하며 더 이상 무조건 가장 저렴한 서비스 제공업체를 선택하지 않습니다.


공식적으로 2,400만 건 이상의 요청을 테스트했습니다. 결과에 따르면 첫 토큰 응답 시간이 16.9% 단축되었고, 전체 요청 소요 시간이 19% 단축되었으며, 속도 제한 오류가 발생한 요청 비율이 7.1%에서 3.8%로 감소했습니다. 대신 1,000건당 요청 비용이 약 6% 증가했습니다.


새 알고리즘이 이미 출시되었으며, 사용자는 구성을 조정할 필요가 없습니다. 이번 최적화는 동일한 모델 뒤에 있는 추론 서비스 제공업체 선택을 대상으로 한 것이며, 모델 자체의 성능을 대상으로 한 것이 아닙니다.

举报 오류 신고/제보
관련추천
스트라이프가 75억 달러에 오픈라우터를 인수한 것은, 그것이 AI 트래픽 통로에서 에이전트 경제의 통제점으로 변모할 수 있다는 데 베팅한 것이다
모델이 점점 대체 가능한 전력처럼 되어갈 때, 기업을 위해 가장 저렴하고 가장 안정적인 옵션을 켜주는 자가 AI의 톨게이트 자리를 차지할 수 있다.
씨티그룹과 뱅크오브아메리카 증권은 Kimi K3가 추론 비용을 낮추지만, '제번스 역설'을 통해 더 많은 호출, 긴 컨텍스트 및 에이전트 작업을 자극하여 GPU, HBM, DDR5, eSSD 및 네트워크 인프라 수요를 증가시킬 수 있다고 분석했다.
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료