엔비디아가 파이에 외부 도구를 추가했다: 에이전트가 스스로 연구하여 4가지 최적화를 찾아냈고, 토큰을 최대 64% 절약했다

동찰 Beating AI 속보, 엔비디아 NVLabs가 SoL-Pi를 오픈소스로 공개하며 Coding Agent Harness 'Pi'에 효율 최적화 레이어를 추가했다. 연구팀은 자동 연구 파이프라인을 구축해 여러 Agent가 Pi의 실행 궤적을 분석하고, 최적화 방안을 제안하고, 코드를 수정하고, 자동으로 검증하도록 했다. 처음에는 152개의 후보 방향이 있었지만 최종적으로 4개만 남았다.

이 4가지 최적화는 모두 중복 오버헤드를 줄이는 데 초점을 맞추고 있다. 예를 들어 코드 수정 후 바로 테스트를 이어서 실행해 모델 호출을 한 번 줄이고, 읽은 대용량 파일과 긴 출력은 먼저 로컬에 저장했다가 필요할 때 다시 가져오고, 하위 작업이 끝난 후 컨텍스트를 압축할지 판단하고, 초장문 로그는 먼저 저렴한 모델에 넘겨 핵심을 추려낸 뒤 내용이 실제로 원본 로그에서 온 것인지 확인한다.

EdgeBench에서 SoL-Pi는 원본 Pi 대비 Token을 45%–49% 덜 사용하고 비용은 약 3분의 1 낮췄다. Codex, Claude Code의 네이티브 Harness와 비교하면 Token은 35%–64% 적고, API 정가 기준으로 비용은 50%–54% 낮다.

다만 비용 절감에는 약간의 성능 손실이 따른다. SoL-Pi는 Pi의 평균 점수 약 94%를 유지했고, Terminal-Bench 4의 63개 CPU 작업 중 15개를 해결했으며 Codex와 Pi는 모두 18개를 해결했다.