자기 코드를 고칠 수 있다고 해서 진정한 자기 진화라고 할 수는 없다: 중국 연구팀이 RSI를 5단계로 나눴다

동찰 Beating AI 속보, 상하이교통대학이 칭화대, 바이트댄스, 샤오홍슈, 상하이 AI Lab 등 팀과 공동으로 리뷰 논문 《The Last AI Built by Humans》를 발표했다. 491편의 관련 연구를 정리하며, 점점 광범위해지는 'AI 자기 진화'에 더 엄격한 기준을 긋고자 했다.

논문은 재귀적 자기 개선(RSI)을 5단계로 나눈다. L1은 인간이 정한 개선 절차를 실행하는 것에 불과하다. L2는 어떻게 바꿀지 스스로 결정할 수 있다. L3는 다음 라운드에서 무엇을 배워야 할지까지 스스로 결정할 수 있다. L4는 실제 운영 중의 피드백에 따라 메모리, 스킬, 코드 또는 harness를 지속적으로 수정하여 이러한 변경이 이후 과제에 영향을 미치게 한다. L5에 이르면 다음 라운드의 개선을 만들어내는 검색 방법, 평가기, 연구 전략 자체도 수정할 수 있으며, 이를 다음 라운드에 계속 사용하도록 넘길 수 있다.

따라서 단순히 '자기 코드를 고칠 줄 아는 것'만으로는 충분하지 않다. 예를 들어 어떤 Coding Agent가 자신의 소스 코드를 다시 작성할 수 있더라도, 다음 세대를 어떻게 선택할지, 어떤 기준으로 점수를 매길지, 어떤 수정이 남을 수 있는지가 여전히 인간이 정해 놓은 것이라면, 그것은 자신이 자기 수정을 할 줄 안다는 것만 증명할 뿐 완전한 재귀적 자기 개선을掌握한 것은 아니다.

논문은 또한 최고 단계인 L5를 두 층으로 나눈다. 첫 번째 층은 '형식적 재귀'다. AI가 이미 후속 개선을 담당하는 메커니즘을 수정할 수 있고, 다음 라운드가 이를 계속沿用하게 할 수 있다. 두 번째 층은 '정말로 개선할수록 더 강해지는 것'이다. 수정된 메커니즘이 유사한 자원과 독립적 평가 아래에서 실제로 더 강한 다음 세대를 만들어내야 한다.

491편의 논문 중 43.8%가 L1로 분류되었고, 31.6%가 L2이며, L5는 29편에 불과해 5.9%를 차지했다. 대량의 연구는 사실상 인간이 설계한 개선을 실행하고 자동으로 개선 방법을 찾는 데 집중되어 있다. '어떻게 개선할 것인가'라는 메커니즘 자체를 AI에게 맡기는 작업은 매우 적다. 설령 L5에 도달하더라도 장기적으로 안정적으로 우위를 축적하는 것은 아직 증명되지 않았다.

이 논문은 주로 RSI 분야에 하나의 분류 프레임워크를 세우는 데 목적이 있다. L1부터 L5까지는 저자들이 제시한 기준이며, 아직 업계에서 공인된 통일된 등급은 아니다. 논문은 동시에 학술 논문, 기술 보고서, 공식 블로그, 오픈소스 시스템을 포함하는데, 상당수 최전선 RSI 실천이 아직 정식 논문으로 들어가지 않았기 때문이다.