Anthropic, 클로드에 '꿈' 꾸게 해 기억 정리: 35만 건 파일, 질의응답 점수 53%에서 61%로 상승

동찰 Beating AI 속보, Anthropic이 Agent의 장기 기억에 관한 연구를 발표하며 Claude의 「꿈꾸기」(Dreaming) 메커니즘을 상세히 소개했다. Agent가 지속적으로 작업을 수행하면 대량의 대화, 조작 기록, 노트가 축적된다. 그러나 이러한 정보는 구식이거나 서로 모순될 수 있으며, 실제로 필요할 때 반드시 찾을 수 있는 것도 아니다.

Anthropic은 기억을 네 계층으로 나눈다: 원시 기록, 선별된 노트, 상호 연관된 Wiki 지식 베이스, 그리고 매번 시작 시 자동으로 로드되는 짧은 인덱스. Claude는 작업 수행 중 중요한 정보를 수시로 메모할 수 있다. 「꿈꾸기」는 작업 사이에 과거 기록을 되돌아보며 오류를 수정하고, 구식 내용을 삭제하며, 여러 작업에서 새로운 경험을 추출한다. 다음 시작 시 Claude는 짧은 인덱스만 로드하고 필요에 따라 관련 기억을 조회하면 되며, 전체 이력을 다시 읽을 필요가 없다.

Anthropic은 약 35만 건의 Stainless 사내 문서, 총 4.2억 Token을 사용해 실험했다. 연구진은 Opus 5가 128회의 세션을 거치며 지속적으로 문서를 읽고, Wiki를 구축하고, 중복 내용을 병합하고, 사실을 검증하도록 했다.

이 문서들에 대한 25개 질문에서 검색 도구만 단독으로 사용했을 때 점수는 53%였고, 점진적으로 개선된 Wiki를 추가하자 61%에 도달했다. 또한 각 질문에 답할 때 평균 약 2만 Token을 절약했다. 여러 계약을 종합해야 답할 수 있는 질문에서는 Wiki의优势가 특히 두드러졌지만, 답이 단일 문서 안에 있는 경우에는 일반 검색으로 충분했다.

Anthropic은 또한 Claude에게 《포켓몬 레드》를 플레이하게 했다. 구버전 Sonnet 3.7은 413개의 기억 파일을 기록했지만 최종적으로 배지만 한 개를 얻었다. 신버전 Fable 5는 단 10개의 파일만 유지했지만 배지 네 개를 얻었다. 신버전 모델은 저장할 가치가 있는 전략과 언제든 다시 확인할 수 있는 게임 상태를 더 잘 구분한다.