GPT-5.6 출시 후 자체 비용 절감, 운영 비용 20% 감소

동차 Beating 모니터링에 따르면, OpenAI는 GPT-5.6 Sol이 출시된 후 자체 생산 시스템을 개선하는 데 참여하기 시작했다고 밝혔다. 이 모델은 Codex를 통해 실제 트래픽을 분석하고, 요청 할당을 조정하며, GPU 커널(칩 연산을 제어하는 저수준 코드)을 자율적으로 재작성한다. 이러한 최적화 덕분에 모델의 엔드투엔드 운영 비용이 20% 절감되었다.

GPT-5.6 Sol은 또한 보조 드래프트 모델을 개선했다. 이 모델은 수백 번의 아키텍처 실험을 자체 설계 및 실행하고, 훈련을 시작 및 모니터링한다. 하드웨어 오류나 훈련 불안정이 발생하면 개입하여 처리한다. 그 결과, 추측 디코딩(소형 모델이 먼저 예측하고, 주 모델이 일괄 검증)의 토큰 생성 효율이 15% 이상 향상되었다.

OpenAI는 이 프로세스를 지속적인 피드백 루프로 설명한다: 생산 환경 관찰, 병목 현상 식별, 시스템 수정, 그리고 전반적인 효과 검증. GPT-5.6은 이미 이러한 여러 단계에 참여하고 있다.