동찰 Beating AI 속보, Perplexity가 Orchestrator API를 출시하여 GPT, Claude, Gemini, Grok, 그리고 GLM, Kimi, DeepSeek 등 45개 이상의 모델을 하나의 인터페이스에 통합했습니다. 개발자는 하나의 API 키만으로 서로 다른 회사의 모델을 호출하고 비용을 통합 정산할 수 있습니다.
이는 두 계층의 자동 스케줄링을 제공합니다. 첫 번째 계층은 서비스 안정성 문제를 해결합니다. 예를 들어 Anthropic의 Claude 인터페이스에서 오류, 속도 제한 또는 시간 초과가 발생하면 시스템이 AWS Bedrock에서 제공하는 동일한 Claude로 전환을 시도하며, 개발자가 수동으로 처리할 필요가 없습니다.
두 번째 계층은 작업에 따라 모델을 자동으로 선택합니다. 개발자는 자연어로 규칙을 지정할 수 있습니다. 예를 들어 간단한 코드 수정은 저렴한 GLM-5.3 Flash에 맡기고, 복잡한 장애 진단은 Claude Opus 5.5에 맡기며, 모듈 간 설계는 GPT-6.1 Sol에 맡깁니다. 시스템은 현재 대화를 읽고 전담 의사결정 모델이 누구를 사용할지 판단합니다. 중간에 모델을 전환하더라도 이전의 전체 대화를 계속 읽을 수 있습니다. 나중에 원래 모델로 다시 전환하면 이전에 남긴 캐시를 재사용하여 중복 계산을 줄일 수도 있습니다.
Perplexity는 또한 특수한 용도도 테스트했습니다. Claude가 보안 제한으로 정상적인 작업을 거부할 때 GPT로 전환하여 처리를 계속하는 것입니다. 팀은 사이버 보안, 생물학 및 거부 응답 이후의 요청에 대한 전환 규칙을 설정했습니다. Terminal-Bench 4.1의 63개 프로그래밍 문제에서 Claude Fable 5.2는 단독으로 38개를 완료했고, 라우팅을 추가한 후에는 41개를 완료했지만 각 작업의 예상 비용도 다소 상승했습니다.