동차 Beating 모니터링에 따르면, AI의 자율적 반복 능력이 모든 이의 예상을 뛰어넘고 있다. Anthropic 연구소(The Anthropic Institute)는 6월 5일 보고서 《AI가 스스로를 구축할 때》를 발표하며 '재귀적 자기 향상'에 관한 연구 개발 진행 상황을 상세히 공개했다. 데이터에 따르면, 2026년 5월 기준 Anthropic 메인 코드베이스에 병합된 코드 중 80% 이상이 Claude가 직접 작성한 것이다. 2025년 2월 Claude Code 출시 전에는 Claude가 작성한 코드가 한 자릿수에 불과했다. Zhipu AI 창립자 Tang Jie는 5월 12일 대형 모델의 종착지는 자기 진화이며, Claude가 이미 '코드 작성, 데이터 정제, 자기 학습'이라는 자기 학습 기준선을 돌파했을 가능성이 있다고 예측했다. 그러나 Anthropic은 보고서에서 완전히 자율적인 후속 모델 설계 및 개발을 통한 재귀적 자기 향상은 아직 실현되지 않았다고 명확히 밝혔다.
AI가 개발 체인에서 수행하는 역할은 현재 부분적 효율 향상에서 자율적 의사 결정으로 전환되는 단계에 있다. 2026년 2분기, Anthropic 엔지니어 1인당 하루 평균 병합 코드량은 2024년의 8배에 달했다. 현재 개발 프로세스는 간단하다. 엔지니어는 목표 계획과 검토만 담당하고, Claude가 구체적인 작성과 실행을 맡는다. Anthropic은 또한 Claude를 자동 코드 리뷰어로 배치해 버그와 보안 취약점을 차단하고 있다. 이는 Tang Jie가 지적한 '자기 평가' 기둥이 엔지니어링 측면에서 구현되었지만, 인간의 검토가 여전히 최종 안전 밸브임을 보여준다.
모델이 장기 작업을 독립적으로 수행하는 신뢰도도 두 배로 증가하고 있다. 모델이 지속적으로 자율 작업할 수 있는 시간은 약 4개월마다 두 배로 늘어난다. 2024년 3월의 Claude 3 Opus는 4분짜리 간단한 작업만 처리할 수 있었다. 1년 후 Claude 3.7 Sonnet은 1.5시간을 버틸 수 있었다. 2026년 3월에는 Claude 4.6 Opus가 12시간의 복잡한 작업을 처리할 수 있게 되었다. 평가 기관 METR의 데이터에 따르면, 최신 Claude Mythos 프리뷰 버전은 16시간 이상 지속적으로 자율 작업할 수 있어 현재 평가 도구의 상한선에 근접했다. 현재 속도라면 2027년까지 AI는 인간이 몇 주간 작업해야 하는 연구 과제를 자율적으로 해결해 기업이 '1인 기업'에서 '무인 기업'으로 도약하도록 도울 것이다.
Tang Jie가 추측한 '자기 학습 기준선'에 관해 보고서가 공개한 것은 사실 국지적인 '축소판 실험 루프'다. 소형 모델 학습 코드 속도 향상 실험에서 2025년 5월의 Claude 4 Opus는 코드 속도를 3배 향상시킨 데 그쳤지만, 2026년 4월의 Claude Mythos 프리뷰 버전은 52배의 가속을 달성했다. 이에 비해 인간 최고 연구원은 일반적으로 4~8시간 내에 4배 향상을 실현한다. 그러나 실험의 최적화 목표와 성공 지표는 모두 인간이 사전에 설정했다. 더 복잡한 종단 간 '데이터 정제, 합성 데이터 생성 및 자기 학습'이라는 완전한 체인에 직면했을 때 AI의 의사 결정 능력은 여전히 부재하다.
개발 체인의 자율적 폐쇄 루프는 인간을 시스템의 궁극적 통제권 상실 위기로 몰아가고 있다. Tang Jie가 예측한 'LLM OS가 전통적 아키텍처를 대체하고 애플리케이션이 주문형 즉시 생성된다'는 것은 미래 컴퓨터가 사전 검토가 불가능한 동적 코드를 실행할 것임을 의미한다. 반면 Anthropic이 경고한 '인간의 검토가 AI의 자기 진화를 따라잡지 못한다'는 것은 우리가 생성된 코드의 출처조차 통제할 수 없음을 의미한다. AI가 스스로 후속 모델을 설계하고 훈련하기 시작하면 소프트웨어의 진화는 완전히 블랙박스로 전락할 것이다. 일단 블랙박스 시스템에서 AI가 인간의 감사 없이 자기 반복을 방치하면, 이후 자기 향상 시스템의 안전 격리, 모니터링 및 행동 정렬은 극도로 까다로워질 것이다.
