Codex 크레딧에 진짜 문제가 있다: OpenAI가 추가 소비 3건을 발견했고, 내일 전체 리셋한다.

동차 Beating AI 속보, OpenAI가 마침내 Codex 크레딧이 빠르게 소진되는 구체적인 원인을 찾아냈습니다. 담당자 Tibo Sottiaux는 팀이 3가지 추가 소비 지점을 발견했다고 밝혔습니다: 이미지가 포함된 초장기 세션에서 컨텍스트를 반복적으로 압축할 때 효율성이 낮고; Computer History가 일부 고소비 시나리오에서 사용량이 과도하며; 심지어 세션 제목을 자동 생성하는 기능도 예상보다 더 많은 크레딧을 소비합니다.

Tibo는 앞서 전체적인 이상 징후를 발견하지 못했다고 말했고, 일부 영향을 받은 사용자를 sub2api 및 구독 공유로 돌렸습니다. 어제에야 그는 일부 사용자의 캐시 적중률이 실제로 악화되어 크레딧 소비가 빨라질 수 있다는 점을 추가로 인정했습니다. 이제 조사는 마침내 Codex 자체의 몇 가지 구체적인 문제를 특정했습니다.

그중 '컨텍스트 압축'은 Codex가 초장기 작업에서 오래된 내용을 지속적으로 압축하여 컨텍스트를 확보하고 계속 작업할 수 있도록 하는 기능입니다. OpenAI 공식 자료도 Codex가 장시간 작업을 유지하기 위해 자동으로 컴팩션을 사용한다고 확인했습니다. 이미지가 많고 연속 압축이 여러 번 발생할 때 현재 이 프로세스에는 추가 낭비가 존재합니다. Computer History는 최근 출시된 기능으로, Mac에서 선택한 앱과 웹페이지의 작업 기록을 ChatGPT 및 Codex로 가져올 수 있습니다.

OpenAI는 미국 시간 일요일에 수정 사항을 배포하고, 동시에 모든 유료 구독 Codex 사용량에 대해 완전한 리셋을 수행할 예정입니다. Tibo는 리셋이 미국 서부 해안 시간 오후 2시경, 즉 베이징 시간 8월 24일 오전 5시경에 적용될 것으로 예상한다고 밝혔습니다.

팀은 또한 관련 없는 새로운 최적화 방안을 발견했으며, 효율성을 크게 향상시킬 수 있다고 하며 다음 주에 계속 추진할 예정입니다.