구글이 에이전트가 '꿈'을 꾸도록 만들었다: 과거의 시행착오를 복기하여 다음 라운드에서 스스로 우회로를 줄인다

동찰 Beating AI 속보, 구글 연구팀이 Dream-RSI를 발표했다. 이는 AI Agent가 한 라운드의 작업을 마친 후 과거의 성공과 실패를 가지고 '꿈'을 꾸게 하는 것이다. 시스템은 매번의 시도와 결과를 저장하고, 이전 기록을 활용해 다양한 접근 방식을 추론한다. 예를 들어 어떤 경로를 먼저 시도할지, 언제 포기할지, 여러 방안을 동시에 시도할지 등을 따진다. 결과는 이미 이전에 실행된 것이기 때문에 이러한 추론은 작업을 다시 실행할 필요가 없다.

시스템은 이 중에서 더 나은 성과를 보인 방식을 선택해 바로 다음 라운드에 적용한다. 새로운 라운드는 다시 더 많은 성공과 실패를 남기고, 이를 다시 '꿈'에 활용해 전략을 계속 수정한다. 이렇게 라운드가 거듭되는 것이 논문에서 말하는 '재귀적 자기 개선'이다. 현재 기반 모델 자체는 변하지 않으며, 실제로 개선되는 것은 Agent의 '다음 단계를 어떻게 할 것인가'라는 방법이다.

논문은 알고리즘, 수학적 최적화, GPU kernel 등 8개 과제에서 이 방법을 테스트했다. Gemini 3.1 Pro의 알고리즘 과제를 예로 들면, 고정된 방식에 비해 Agent 호출이 550회에서 317회로 줄었으며, 동시에 최종적으로 찾아낸 프로그램이 더 빠르게 실행되었다.