동찰 Beating AI 속보, 구글의 Gemini 4 Neon 프로그래밍 능력이 많은 개발자들의 호평을 받았지만, 함께 제공되는 프로그래밍 도구 Antigravity는 토큰 소모 이상으로 집중적인 불만을 샀다.
11월 21일 새벽, Antigravity 책임자 Varun Mohan은 Neon의 캐시 적중률이 낮으며, 특히 모델 호출 간격이 길 때 캐시가 쉽게 삭제된다고 인정했다. 구글은 캐시 풀을 대폭 확장하여 적중률을 약 4% 높여, 사용자가 동일한 할당량 내에서 최소 20% 더 많은 작업을 완료할 수 있도록 할 예정이다. 완료 후에는 사용자 할당량도 재설정할 계획이다.
프로그래밍 에이전트가 모델을 호출할 때마다 모델이 이전 대화, 코드 및 도구 실행 결과를 얻을 수 있어야 한다. 캐시를 통해 모델은 이미 처리된 내용을 직접 재사용하여 반복 계산을 피할 수 있다. 캐시가 무효화되면 수십만 토큰의 기록 내용이 다시 처리되어 할당량 소모가 크게 증가할 수 있다.
