简体中文

繁體中文

English

Tiếng Việt

한국어

日本語

ภาษาไทย

Türkçe

Partnered With:

Anthropic, 전 세계 AI 개발 중단을 촉구하며 모델이 점차 '자체 업그레이드' 능력을 갖추고 있다고 경고

이 글을 읽으려면 69 분

사업이 빠르게 확장되는 가운데, Anthropic이 자발적으로 '브레이크를 밟자'고 촉구하고 있다.

원문 제목: 《드문 일! 'AI 거물'이 전 세계 AI 개발 중단 촉구, 모델이 점차 '자체 업그레이드' 능력을 갖추고 있다고 경고》
원문 저자: 룽웨, 월스트리트 지앤원

「우리는 세계가 첨단 AI 개발을 늦추거나 일시 중단할 수 있는 선택권을 갖는 것이 사회 구조와 정렬 연구가 기술 발전 속도를 따라잡을 수 있도록 하여 세계에 이익이 될 것이라고 믿습니다.」 시가총액이 거의 1조 달러에 육박하고 IPO를 추진 중인 Anthropic은 AI의 '재귀적 자기 개선'이 2년 이내에 도래할 수 있다고 경고하며, 드물게 AI 개발에 '브레이크를 밟아야 한다'고 촉구했습니다. 이 조치는 비판자들에게 '마케팅 수단'으로, 지지자들에게는 진정한 경고로 간주됩니다.

시가총액이 거의 1조 달러에 육박하고 IPO를 추진 중인 AI 기업이 갑자기 공개적으로 전 세계 AI 개발 중단을 촉구했습니다.

6월 4일, Anthropic은 공식 블로그에 《AI가 스스로를 구축할 때》(When AI Builds Itself)라는 제목의 장문을 게재했습니다. 이 글은 회사 공동 창업자 Jack Clark과 내부 연구 기관 책임자 Marina Favaro가 공동 서명했으며, 처음으로 이전에 공개된 적 없는 내부 운영 데이터를 드물게 외부에 공개했습니다.

이 데이터는 AI가 놀라운 속도로 AI 자체의 개발 프로세스를 가속화하고 있음을 보여줍니다: 2026년 5월 기준, Anthropic 코드베이스에 병합된 코드의 80% 이상이 Claude에 의해 작성되었으며, 2024년과 비교해 엔지니어의 일일 병합 코드량이 8배 증가했습니다; 내부 연구 조사에서 직원들은 최신 모델 Mythos Preview를 사용한 후 자체 생산성이 AI 도구를 전혀 사용하지 않을 때보다 약 4배 증가했다고 추정했습니다.

더 중요한 점은, Anthropic이 전체 AI 업계를 불안하게 만드는 개념적 경고를 제시했다는 것입니다: '재귀적 자기 개선'(recursive self-improvement) — 즉 AI 시스템이 인간의 개입 없이 자율적으로 후속 모델을 설계하고 개선하는 능력입니다. 이 단계는 아직 도래하지 않았지만, '향후 2년 내에, 혹은 더 일찍 발생할 수 있다'고 경고했습니다.

이 데이터를 바탕으로, Anthropic은 AI 업계에서 매우 드문 주장을 제기했습니다: 전 세계가 협력하여 첨단 AI 개발의 중단 또는 속도 조절을 고려해야 한다는 것입니다. 사업이 급속도로 확장되는 가운데, Anthropic이 자발적으로 '브레이크를 밟자'고 촉구한 이 이례적인 움직임은 월스트리트와 실리콘밸리에서 동시에 논란을 불러일으키고 있습니다.

비판자들은 Anthropic의 이러한 움직임이 단순히 기존의 '규제 포획' 전략의 연장선에 불과하다고 주장한다. 즉, AI 위험을 과장하여 규제 당국에 압력을 가함으로써 경쟁사, 특히 오픈소스 모델의 발전 공간을 제한하려는 의도라는 것이다. 또한 일부는 Anthropic이 자사 'Mythos' 사이버 보안 모델을 제한적으로 공개한 것을 마케팅 수단으로 해석한다. 한편으로는 능력을 과시하면서도 다른 한편으로는 '안전'을 이유로 완전한 공개를 거부하는 방식이다. 반면 지지자들은 Anthropic의 AI 위험 경고에 진정성이 있다고 본다. 펜실베이니아 대학교 와튼 스쿨의 Ethan Mollick 교수는 AI 연구소는 단일 주체가 아니라고 말한다. 수조 달러 기업의 마케팅, 변호사, 자본 논리를 가진 측면도 있고, 차세대 모델을 추구하는 연구자들도 있으며, 미래를 진심으로 우려하는 '철학자 왕' 같은 인물들도 있다고 강조한다.

AI 공급망 분석가이자 네티즌 사이에서 미국 주식 시장의 새로운 '주식의 신'으로 불리는 Serenity는 게시글을 통해 Anthropic의 진짜 의도는 "우리가 앞서가게 해주세요, 개발을 멈추세요!"라는 뜻이라고 주장했다. 그리고 이러한 성명은 어떤 식으로든 모든 국가가 AI에 투자하도록 장려할 것이라고 덧붙였다.

데이터 자체만으로도 충분히 충격적이다. Anthropic의 연간 매출은 2025년 말 90억 달러에서 2026년 6월 말에는 500억 달러로 급등할 전망이다. 회사는 이미 기업공개(IPO) 서류를 비공개로 제출했다. 최신 모델 Mythos Preview는 16시간 이상 연속 작업이 가능하며, 첫 번째 테스트에서 전 세계 주요 시스템에서 1만 개 이상의 고위험 소프트웨어 취약점을 발견했다.

'가속'과 '제동'이라는 역설 속에서 Anthropic의 이 블로그 게시물은 아마도 지금까지 AI 업계에서 가장 솔직하면서도 가장 모순적인 고백일 것이다.

《AI가 스스로를 구축할 때》(When AI Builds Itself) 블로그 게시물에서 발췌한 명문들은 다음과 같다:

1. 우리는 세상이 최첨단 AI 개발을 늦추거나 일시 중단할 수 있는 옵션을 갖는 것이 유익할 것이라고 믿는다. 이는 사회 구조와 정렬 연구가 기술 발전 속도를 따라잡을 수 있도록 하기 위함이다.

2. 훈련 실행은 미사일 발사대보다 숨기기 쉬우며, 투입 자원은 범용성을 띠고, 비밀리에 계약을 위반할 유인이 매우 크다. 다른 이들이 중단할 때 계속 추진하는 쪽이 선도적 지위를 물려받을 수 있기 때문이다.

3. AI의 재귀적 자기 개선은 아직 일어나지 않았으며, 필연적인 것도 아니다. 그러나 그 도래 시점은 대부분의 기관이 준비한 것보다 더 빠를 수 있다. 그런 종류의 기술은 이전에 존재한 적이 없지만, 나(Jack Clark)는 이것이 향후 2년 내에, 혹은 그보다 더 일찍 발생할 수 있다고 믿는다.

4. 만약 시스템이 완전히 스스로 후계자를 구축할 수 있다면, 우리가 이를 보호·모니터링하고 행동을 형성하는 방식은 훨씬 더 중요해질 것입니다.

5. 에디슨은 천재는 1%의 영감과 99%의 땀이라고 말했습니다. 하지만 우리는 땀이 점점 자동화되고 있음을 목격하고 있습니다.

6. Claude가 작성한 코드는 2025년 말까지 인간보다 약간 뒤처졌지만, 현재는 거의 동등한 수준이며, 1년 안에 인간을 확실히 능가할 것으로 예상합니다.

7. 약 1년 전부터 저는 Claude 워크플로우를 본격적으로 사용하기 시작했습니다. 정말 미친 경험이었고, 제가 직접 코드를 작성한 지는 이제 약 5개월이 되었습니다. — Anthropic 직원

8. 요컨대, '실행' 자체, 즉 코드 작성, 실험 수행, 결과 도출은 이제 인간의 시간을 거의 소모하지 않지만, 여전히 연산 자원은 소모합니다.

9. 순조로운 날에는 제가 하는 모든 일이 무의미해지고, 모든 것이 저보다 더 빠르고 더 잘 자동화되고 있다고 느낍니다. 하지만 모든 것이 무너지고 이유를 모르는 날도 있습니다. 제가 정확히 무엇을 하고 있는지 더 이상 알 수 없다는 것을 깨닫습니다. — Anthropic 직원

10. 이 기술의 발전 속도를 효과적으로 늦추어, 그 심오한 영향에 대응할 시간을 더 확보할 수 있다면, 이는 매우 좋은 일일 가능성이 높습니다. 하지만 속도 조절이 가장 신중하지 못한 행위자들만 기술적으로 따라잡게 만든다면, 최종 결과는 모두에게 더 불안전한 상황을 초래할 수 있습니다. 글로벌 조정 메커니즘이 부재한 상황에서 각 기업과 정부는 경쟁 압력과 지정학적 압력 속에서 어려운 안전 선택을 해야 할 것입니다.

《AI가 스스로를 구축할 때》(When AI Builds Itself) 전문 번역은 다음과 같습니다:

재귀적 자기 개선에 관한 우리의 진전과 그 영향

AI 발전사의 대부분 동안, 인간은 개발 주기의 모든 단계를 주도해 왔습니다. 하지만 Anthropic에서는 점점 더 많은 AI 개발 작업을 AI 시스템 자체에 위임하고 있으며, 이는 우리의 연구개발 과정을 가속화하고 있습니다.

이러한 추세가 충분히 오래 지속되고 충분한 연산 자원이 확보된다면, 그 최종 지향점은 AI 시스템이 완전히 자율적으로 자신의 후계자를 설계하고 개발할 수 있게 되는 것입니다. 이를 재귀적 자기 개선이라고 합니다. 우리는 아직 이 단계에 도달하지 않았으며, 재귀적 자기 개선이 불가피한 것도 아닙니다. 하지만 그 도래 시점은 대부분의 기관이 예상하는 것보다 더 빠를 수 있습니다.

Anthropic 연구소는 공개 벤치마크 데이터와 Anthropic 내부에서 이전에 공개되지 않은 데이터를 활용하여 AI가 이미 AI 시스템 개발을 가속화하고 있음을 입증했습니다. 한 가지 예를 들자면, 현재 Anthropic 엔지니어가 분기당 평균 제출하는 코드 양은 2021년부터 2025년 사이의 8배에 달합니다.

이 글에서 논의하는 기술적 추세는 AI 시스템의 능력이 향후 몇 년 안에 크게 도약할 것임을 시사합니다. 이러한 추세는 광범위한 영향을 미칩니다. 스스로 구축할 수 있는 AI는 기술 역사상 중대한 돌파구가 될 것입니다. 이는 과학, 의료 등 분야에서 세계에 막대한 혜택을 가져올 잠재력을 지니고 있습니다. 그러나 완전한 재귀적 자기 개선은 인간이 AI 시스템에 대한 통제권을 상실할 위험을 증가시킬 수도 있습니다. 일단 시스템이 완전히 자율적으로 자신의 후속 버전을 구축할 수 있게 되면, 우리가 이에 대한 안전 장치를 마련하고, 모니터링 및 관리하며, 행동을 형성하는 방식은 지금보다 훨씬 더 중요해질 것입니다.

1세대 Claude 구축 (2021-2023년)

초기에는 Anthropic의 작업이 다른 기술 기업과 크게 다르지 않았습니다. 직원들은 노트북에서 코드와 문서를 작성했습니다.

챗봇 (2023-2025년)

사람들은 초기 챗봇을 활용하여 짧은 코드 조각을 생성한 후 출력 내용을 텍스트 편집기에 복사하는 등 일부 작업을 보조하기 시작했습니다.

프로그래밍 에이전트 (2025-2026년)

에이전트의 능력이 향상됨에 따라, 이들은 독립적으로 코드를 작성하고 수정할 수 있게 되었으며, 때로는 전체 파일을 처리할 수도 있었습니다.

자율 에이전트 (현재)

에이전트는 이제 스스로 코드를 실행하고, 수 시간 분량의 작업을 다른 에이전트에게 위임할 수 있습니다.

폐쇄 루프 (20XX년?)

미래에는 에이전트가 모델을 자율적으로 구축하고 훈련할 수 있을 만큼 충분한 능력을 갖출 수도 있습니다. 만약 그렇게 된다면, Claude의 후속 버전은 Claude 자체에 의해 지속적으로 반복 개선될 수 있을 것입니다.

외부 세계로부터의 증거

AI 모델의 발전 속도는 가속화되고 있습니다. 모델이 독립적이고 안정적으로 작업을 완료할 수 있는 시간은 이전에는 약 7개월마다 두 배로 증가했지만, 현재는 이 주기가 약 4개월마다 두 배로 단축되었습니다. 2024년 3월, Claude Opus 3는 인간이 약 4분이면 완료할 수 있는 소프트웨어 작업을 처리할 수 있었습니다. 1년 후, Claude Sonnet 3.7은 약 1시간 30분이 소요되는 작업을 처리할 수 있게 되었습니다. 다시 1년 후, Claude Opus 4.6은 12시간이 소요되는 작업을 수행할 수 있게 되었습니다.¹ 이러한 추세가 지속된다면, 올해 안에 숙련된 인력이 며칠이 걸리는 작업도 AI의 능력 범위에 들어올 수 있습니다. 2027년까지는 AI 시스템이 인간이 수 주가 필요한 작업을 수행할 수 있을지도 모릅니다.

동일한 패턴이 프로그래밍 및 연구 벤치마크에서도 나타납니다. 벤치마크는 특정 분야에서 모델의 성능을 측정하며, 모델 점수가 만점에 가까워지면 해당 벤치마크는 '포화 상태'로 간주됩니다.² SWE-bench는 표준적인 실제 소프트웨어 엔지니어링 테스트로, 모델에게 실제 오픈소스 코드베이스와 실제 버그 보고서를 제공하고, 코드를 작성해 문제를 수정한 후 프로젝트 자체 테스트를 통과하도록 요구합니다. 모델의 점수는 한 자릿수 저점에서 2년 만에 해당 벤치마크를 포화 상태로 만들었습니다.

CORE-Bench는 모델이 기존 연구 결과를 재현할 수 있는지 테스트하며, 이는 모델이 독창적인 연구를 수행하기 위한 전제 조건입니다. AI 모델에게 발표된 논문의 코드와 데이터를 제공하고, 모든 내용을 다시 실행해 논문 결과를 재현할 수 있는지 확인하도록 요구합니다. AI 시스템의 재현 성공률은 2024년 약 20%에서 15개월 만에 해당 벤치마크를 포화 상태로 만들었습니다. 장기 작업 벤치마크를 운영하는 METR은 Claude Mythos Preview가 최소 16시간 동안 지속적으로 작업할 수 있으며, '새로운 작업을 도입하지 않고 METR이 평가할 수 있는 범위의 상한선'에 도달했다고 밝혔습니다.

공개 벤치마크는 이러한 시스템의 능력에 대해 많은 것을 알려주지만, AI 시스템이 AI 개발 자체를 가속화하는 데 미치는 영향을 반영하지는 못합니다. 이를 이해하려면 Anthropic과 같은 AI 기업 내부의 직접적인 증거가 필요합니다.

Anthropic 내부의 증거

최첨단 모델을 구축하려면 대략 두 가지 유형의 작업이 필요합니다. 하나는 코드 작성, 인프라 구축 및 모델 훈련 감독을 포함하는 엔지니어링 작업이고, 다른 하나는 어떤 실험을 실행할지 결정하고, 실험 결과를 해석하며, 다음에 시도할 방향을 결정하는 연구 작업입니다.

엔지니어링과 연구 두 분야 모두 상황은 동일합니다. 엔지니어링 측면에서 Claude는 명확하지 않은 사양의 문제를 받아 스스로 해결책을 찾을 수 있습니다. 인간은 목표를 제공하지만 방법은 더 이상 제공하지 않습니다. 연구 측면에서 Claude는 명확한 사양의 실험을 실행할 때 숙련된 인간 연구자와 견줄 수 있거나 능가합니다. 그러나 Claude가 스스로 판단하고 목표를 설정해야 하는 경우, 엔지니어링과 연구 모두에서 여전히 상당한 능력 격차가 존재합니다. 바로 이 격차가 오늘날의 AI와 미래에 스스로 후계자를 설계할 수 있는 시스템을 구분 짓습니다.

Anthropic에서 직원들은 경험이 쌓임에 따라 일반적으로 더 개방적이고 중요한 작업을 맡게 됩니다. 처음에는 다른 사람이 지정한 작업을 수행합니다. 예: '내보내기 버튼이 작동하지 않으니 수정해 주세요.' 경험이 쌓이면 목표를 받고 스스로 해결책을 설계합니다. 예: '네트워크가 높은 부하에서 느려지는 이유를 조사해 보세요.' 최고 수준에서는 스스로 어떤 문제를 해결할 가치가 있는지 판단해야 합니다. '팀이 다음 분기에 무엇을 해야 할까요?' Anthropic의 내부 데이터를 통해 Claude가 이러한 다양한 유형의 작업을 처리하는 데 얼마나 발전했는지 관찰할 수 있습니다.

Claude는 Anthropic 코드의 상당 부분을 작성했습니다. 2026년 5월 기준, Anthropic 코드베이스에 병합된 코드 중 80% 이상이 Claude에 의해 생성되었습니다.³ 2025년 2월 Claude Code가 연구 프리뷰로 출시되기 전에는 이 비율이 한 자릿수에 불과했습니다. 이러한 변화는 엔지니어 개인의 생산성에서도 나타납니다. 엔지니어 한 명이 하루에 병합하는 코드 줄 수는 Anthropic 초기 4년(2021~2024년) 동안 안정적이었으나, 2025년부터 증가하기 시작했습니다. 이는 Claude가 단순히 복사-붙여넣기용 제안을 제공하는 수준에서 직접 코드를 실행할 수 있는 단계로 전환되었기 때문입니다. 2026년에는 모델이 더 긴 시간 동안 자율적으로 작업할 수 있게 되면서 증가율이 다시 가팔라졌습니다. 이 두 변곡점은 아래 그래프에 나와 있습니다. 2026년 2분기, 일반 엔지니어가 하루에 병합하는 코드 양은 2024년의 8배에 달했습니다. 이는 대부분의 코드가 Claude에 의해 작성되고, 엔지니어는 직접 입력하는 대신 지도와 검토를 담당하기 때문입니다.

막대 그래프: 인원별, 분기별 코드 기여량, 2021년 2분기부터 2026년 2분기까지. 그래프에는 8개의 서로 다른 모델 출시일이 표시되어 있습니다: Claude 1, Claude 2, Claude 3, Claude 4, Claude Code, Claude Sonnet 4.5, Claude Opus 4.5, Claude Mythos Preview(내부 액세스) 및 Claude Mythos Preview.

참고로, 코드 줄 수는 완벽하지 않은 지표로, 양을 측정할 뿐 질을 반영하지는 않습니다. 따라서 2026년 2분기 '엔지니어 1인당 일일 코드량 8배 증가'는 실제 생산성 향상 폭을 거의 확실히 과대평가한 것입니다. 그럼에도 불구하고 이는 가속화 추세를 반영합니다. Anthropic에서는 코드 줄 수로 성과를 평가하지 않습니다. 팀원들이 더 많은 코드를 생산하는 이유는 순전히 AI 시스템을 활용해 더 많은 코드를 작성하기 때문입니다.

코드 줄 수의 증가는 직원들이 생산성이 크게 향상되었다고 느끼는 주관적 인식과도 일치합니다. 2026년 3월, Anthropic의 여러 연구팀 130명을 대상으로 한 설문조사에서 응답자 중앙값 추정치는 AI 모델을 전혀 사용하지 않는 경우와 비교해 Mythos Preview를 활용할 때 유사한 프로젝트에서 약 4배의 생산성을 보인다는 것이었습니다. 당시 실제 향상 폭은 이보다 다소 낮을 것으로 예상됩니다.⁶ 그럼에도 불구하고, 이 전반적인 판단은 신뢰할 수 있으며, Anthropic의 상당수 기술 직원이 AI 지원 없이 작업할 때보다 몇 배 더 빠른 속도로 핵심 업무를 수행하고 있다는 다른 관찰 결과와도 일치합니다.

또한 우리는 Anthropic 직원들이 Claude를 활용해 원래는 발생하지 않았을 작업, 예를 들어 탐색 도구 구축이나 오랫동안 쌓인 코드 정리 작업을 처리하는 모습을 관찰했습니다. 예를 들어, 2026년 4월 Claude는 800개 이상의 수정 패치를 제출하여 특정 API 오류를 1/1000만큼 줄였습니다. 이 작업을 감독한 엔지니어는 동일한 작업량을 인간이 수행하려면 4년이 걸렸을 것이라고 추정했습니다. 다른 사람의 결함을 찾아내는 것은 느리고 힘들며, 인간이 동시에 이렇게 많은 낯선 컨텍스트 정보를 머릿속에 유지하는 것은 매우 어렵습니다.

“약 1년 전부터 Claude 워크플로를 본격적으로 사용하기 시작했습니다. 정말 미친 경험이었고, 제가 직접 코드를 작성한 지는 이제 약 5개월이 되었습니다.” — Anthropic 직원*

Claude가 작성한 코드의 품질은 “합격점”이며 지속적으로 향상되고 있습니다. “좋은 코드”는 두 가지를 의미합니다: 정상적으로 실행되며, 다른 엔지니어가 이해하고 그 위에서 계속 개발할 수 있는 방식으로 작성되어야 합니다. 첫 번째 기준에 관해서는 증거가 명확합니다. Anthropic 직원들이 Claude가 작업을 수행하는 과정에서 수정, 방향 전환 또는 작업을 인계받는 빈도가 1년 동안 꾸준히 감소했으며, 가장 복잡하고 개방적인 작업에서도 예외는 아닙니다. 이러한 작업 유형은 명확한 사양이 없고 엔지니어 자신도 답이 어떻게 생겼는지 확신하지 못하는 특징이 있습니다. 이는 Claude가 다양한 난이도의 작업에서 성공률 변화 추세(아래 그래프 참조)에서 명확히 드러납니다. Claude가 작성한 코드는 실제로 작동합니다.

꺾은선 그래프: Claude Code 세션 성공률(네 가지 작업 유형——간단 작업, 일반 작업, 어려운 작업 및 개방형 문제——별로 통계), 여섯 가지 모델 포함: Claude Sonnet 4.5, Claude Opus 4.5, Claude Opus 4.6, Mythos Preview(내부 액세스), Mythos Preview 및 Claude Opus 4.7

가장 개방적인 작업에서 Claude의 성공률은 2026년 5월에 76%에 도달했으며, 6개월 동안 50% 포인트 상승했습니다. 이 난이도 수준의 작업 예를 들어보겠습니다: 한 번의 정기 업그레이드로 수만 개의 훈련 작업이 충돌했습니다. 한 엔지니어가 몇 줄의 텍스트 설명과 클러스터 액세스 권한만으로 이 온라인 사고를 Claude에 맡겼습니다. Claude는 실행 중인 작업을 하나씩 검색하고, 각 테스트 환경 설정을 점검하며, 결국 충돌을 유발한 단일 난해한 디버그 플래그를 찾아내고, 문제를 안정적으로 재현하며, 수정 방안을 확인했습니다. 전체 과정은 약 2시간이 걸렸으며, 보통 2~3일이 필요한 작업을 완료했습니다.

두 번째 기준, 즉 다른 엔지니어가 이해하고 이를 기반으로 개발을 이어갈 수 있는 코드를 작성하는 능력에 있어 인간과 AI 간의 격차는 여전히 존재하지만 빠르게 좁혀지고 있습니다. Anthropic 내부 직원들 사이에서 완전한 합의가 이루어진 것은 아니지만, 많은 이들은 2025년 말 당시 Claude가 작성한 코드의 품질이 여전히 Anthropic 인간 엔지니어가 작성한 코드보다 다소 떨어졌다고 봅니다. 그러나 현재는 두 수준이 거의 비슷해졌으며, 향후 1년 내에 Claude가 작성한 코드의 품질이 인간을 능가할 것으로 예상됩니다.

이러한 변화는 Anthropic이 자체 코드를 검토하는 방식도 바꾸어 놓았습니다. 이제 코드베이스에 변경 사항을 제출하려면 먼저 자동화된 Claude 검토 도구의 점검을 거쳐야 합니다. 이 도구는 코드 병합 전에 결함, 보안 취약점 및 기타 문제를 능동적으로 발견합니다. 이 도구를 활용한 회고 분석 결과, 코드베이스의 모든 변경 사항에 대해 자동화된 Claude 검토를 적용했다면, 역사적으로 claude.ai의 운영 장애를 초래했던 결함 중 약 3분의 1이 프로덕션 환경에 투입되기 전에 차단되었을 것으로 나타났습니다. 이러한 코드를 작성한 엔지니어들은 본래 이러한 시스템을 구축하는 세계 최고 수준의 인재들이었습니다. 이제 Claude가 그들이 놓친 오류를 포착하고 있는 것입니다.

「Claude가 작성한 코드는 2025년 말에 Anthropic 인간 엔지니어가 작성한 코드보다 다소 떨어졌으나, 현재는 거의 비슷해졌으며, 올해 안에 완전히 앞지를 것으로 예상됩니다.」

Claude는 정해진 목표를 중심으로 실험을 수행하는 데 뛰어납니다. Anthropic이 새 모델을 출시할 때마다 동일한 테스트를 진행합니다. Claude에게 소형 AI 모델을 훈련시키는 코드를 제공하고, 동일한 정확성 검증을 통과해야 한다는 조건 하에 코드 실행 속도를 최대한 높이도록 요구하는 것입니다. 목표와 성공 지표는 사전에 고정되어 있으며, Claude의 임무는 코드를 다시 작성하고, 실행하며, 시간을 측정하고, 반복적으로 개선하여 속도를 높일 여지를 찾는 것입니다. 이는 실험 연구 사이클의 축소판입니다. 2025년 5월, Claude Opus 4의 평균 가속 비율은 초기 코드 대비 약 3배였습니다. 2026년 4월에는 Claude Mythos Preview가 약 52배에 도달했습니다. 참고로 숙련된 인간 연구원이 4배 가속을 달성하는 데는 4~8시간이 필요합니다.⁷ 이 연구 작업 흐름의 특정 단계, 즉 명확히 정의된 실험 내부 단계를 최적화하는 데 있어 Claude는 1년도 채 되지 않아 '매우 유용함'에서 '인간을 초월함'으로 도약했습니다.

「현재의 구도는 대략 이렇습니다. '인간이 아이디어를 제시하면, 모델이 이전보다 한 자릿수 빠른 속도로 이를 구현하고 테스트하며 평가할 수 있다.'」

Claude는 점차 자체적으로 실험 계획을 수립하는 능력을 향상시키고 있습니다. 2026년 4월, Anthropic은 Claude가 종단 간 개방형 연구 프로젝트를 실행하는 첫 시연을 공개했습니다. Claude 기반 에이전트는 AI 안전 분야의 개방형 문제, 즉 "약한 모델이 강한 모델을 신뢰성 있게 감독할 수 있는가?"라는 질문을 부여받고 스스로 해결하도록 남겨졌습니다. 여기에는 가설 수립, 테스트 수행, 병렬 실행 에이전트와의 발견 공유, 반복적 개선이 포함됩니다. 해당 작업에는 명확한 성능 '하한'과 '상한'이 존재합니다. 하한은 약한 감독자가 독립적으로 운영될 때의 성과이고, 상한은 강한 모델이 정답으로 훈련되었을 때의 성과입니다. 두 명의 인간 연구원이 약 일주일 동안 해당 격차의 약 23%를 해소했습니다. 반면, 이 에이전트들은 총 약 800시간의 연산 시간 동안 97%를 해소했으며, 소비된 연산 비용은 약 18,000달러였습니다.

이 작업에는 몇 가지 설명이 필요합니다. 연구 결과는 프로덕션 규모의 모델에서 완전히 재현되지 않았으며, 인간은 여전히 문제 선정과 평가 기준 설정을 담당했습니다. 그러나 이러한 제약 조건 내에서 모든 실험은 에이전트가 자율적으로 설계했습니다. 방향 설정은 인간이 수행한 유일한 실질적 역할이었습니다.

"하루에서 이틀 사이에 Claude는 제 개입 없이 이 모든 작업을 완료했습니다. 만약 주니어 동료가 같은 시간에 이런 결과를 가져온다면 꽤 놀랄 것입니다. 미래가 도래했습니다."

Claude는 연구 대화를 연구 발견으로 이끄는 데 점점 더 능숙해지고 있습니다. 우리는 2026년 1월부터 3월까지의 실제 Claude Code 세션을 검토했으며, 여기서 Anthropic 연구원이 Claude와 협력하여 특정 훈련 실행이 반복적으로 충돌하는 이유나 특정 모델이 벤치마크 테스트에서 낮은 점수를 받은 이유와 같은 개방형 조사 문제를 해결했습니다. 각 사례에서 연구원이 잘못된 방향으로 나아간 순간을 발견했습니다. 즉, 그들이 추구한 방향이 세션을 궤도에서 이탈하게 만들다가 결국 다시 정상 궤도로 돌아오게 했습니다. 이후 우리는 다른 Claude 모델에 세션이 이탈하기 전의 내용만 보여주고 다음 단계를 물었습니다. 그런 다음 세션의 최종 방향을 볼 수 있는 또 다른 Claude가 AI와 인간 중 누가 더 나은 다음 단계를 제안했는지 판단하도록 했습니다.⁸

우리는 의도적으로 인간의 결정에 개선 여지가 있는 순간(n=129)을 선택했기 때문에, 이는 모델과 인간의 판단력을 동등한 조건에서 비교한 것이 아닙니다. 이러한 순간들은 올바른 다음 단계가 명확하지 않고 인간의 선택이 모델 성능을 측정하는 유효한 참조 기준 역할을 하는 실제적이고 도전적인 시나리오를 제공합니다. 이 지표에서 2025년 11월 최고 모델(Opus 4.5)은 인간 선택보다 51% 우수했습니다. 2026년 4월(Mythos Preview)에는 이 비율이 64%로 증가했습니다. 연구 작업의 일상은 대체로 '다음에 무엇을 할까'라는 결정의 연속이며, 이 지표는 모델이 궁극적으로 연구 조사를 독립적으로 주도할 수 있는 능력을 평가하는 관련 지표가 됩니다. 우리는 이 결과를 AI 시스템이 AI 연구에 의존하는 판단적 결정을 내리는 데 점점 더 능숙해지고 있다는 초기 신호로 간주합니다.

막대 그래프, 제목은 「모델이 인간보다 더 나은 다음 단계를 선택할 수 있을까?」 이 그래프는 9가지 모델의 성능을 보여줍니다: Claude 3 Haiku, Claude Sonnet 4, Claude Sonnet 4.5, Claude Haiku 4.5, Claude Opus 4.5, Claude Sonnet 4.6, Claude Opus 4.6, Claude Opus 4.7 및 Claude Mythos Preview

「현재로서 인간의 비교 우위는 여전히 전체적인 그림을 파악하고, 현재 작업의 한계를 넘어 더 거시적으로 사고하는 데 있습니다.」

Anthropic의 미래 업무 형태는 어떻게 될까?

기존 증거에 따르면 AI 개발 프로세스의 모든 단계에서 인간의 역할이 축소되고 있습니다. 인간과 AI가 작성한 코드의 품질이 동등해지면 인간은 코드 작성을 완전히 중단하고 검토만 담당하게 될 것입니다. 하지만 검토 속도가 Claude의 코드 생성 속도를 따라가지 못하면 인간의 검토가 AI 개발의 병목 현상이 됩니다. 마찬가지로 Claude가 실험을 실행할 수 있게 되면 문제는 「어떤 실험이 실행할 가치가 있는가?」로 전환됩니다. 요약하자면: 실행 단계(즉, 코드 작성, 실험 실행, 결과 도출)의 인적 시간 비용은 이제 거의 0에 가깝지만, 연산 비용 측면에서는 여전히 존재합니다.

현재 인간이 비교 우위를 가진 분야는 연구 안목과 판단력입니다. 여기에는 어떤 문제에 주목할 가치가 있는지, 어떤 결과를 신뢰할 수 있는지, 그리고 언제 특정 경로가 막다른 골목에 도달했는지 판단하는 것이 포함됩니다.

「일(그리고 삶)은 한때 사람들 사이의 작은 호의의 선물 경제 위에서 운영되었습니다. 『이 스크립트 좀 실행해줄래?』... 이러한 요청 하나하나가 약간의 인정(人情債)과 서로에 대한 작은 유대감을 만들어냈습니다. [Claude]는 더 빠르고 인정을 만들지 않지만, 이러한 상호작용 하나하나는 인간 간 협업 기회를 잃는 아쉬움입니다.」

「모든 것이 순조롭게 돌아가는 날에는 내가 하는 일이 무의미하다고 느끼곤 합니다. 모든 것이 자동화되어 나보다 더 낫고 빠르니까요. 하지만 모든 것이 고장 나고 이유를 모르는 날도 있습니다. 그러면 나는 내가 도대체 무엇을 하고 있는지조차 모르고 있다는 것을 깨닫게 됩니다.」

우리의 판단이 틀렸다면?

위 증거에 대한 자연스러운 반박은 현재 인간의 손에 남아 있는 작업, 즉 어떤 연구 문제를 선택할지가 가장 중요하다는 것입니다. 이러한 판단력이 없으면 Claude는 뛰어난 능력을 가진 조수일 뿐, AI 발전을 독립적으로 추진할 수 있는 시스템이 아닙니다.

현재의 훈련 방법과 아키텍처가 이러한 능력을 발휘할 수 있을지는 아직 확실하지 않습니다. 하지만 AI의 발전은 '번뜩이는 아이디어'에만 의존하는 경우가 드뭅니다. AI의 최근 역사에서 Transformer 아키텍처나 혼합 전문가 모델과 같은 순간이 몇 번 있었지만, 패러다임 전환 수준의 아이디어는 보통 수년 간격으로 나타납니다. 그 사이의 대부분의 진전은 점진적입니다. 규모를 확장하고, 문제점을 관찰하며, 이를 수정하고, 다시 시도하는 과정입니다. 이것이 바로 Claude가 현재 가장 잘하는 작업 흐름입니다. 에디슨은 천재는 1%의 영감과 99%의 땀이라고 말했습니다. 하지만 우리는 '땀'에 해당하는 부분이 점점 자동화되고 있음을 목격하고 있습니다. 점점 명확해지는 사실은 프론티어를 발전시키는 대부분의 작업이 자동화될 수 있다는 점입니다. 대규모 연구 진전은 도구와 리소스에 크게 의존하며, 이는 실험 속도, 동시 실행 가능한 실험 수, 결과 효율성을 결정합니다.

설사 Claude가 결코 훌륭한 연구 안목을 갖추지 못한다고 가정하더라도, 우리의 증거를 보수적으로 해석하면 복리적 가속을 의미합니다. 인간이 극히 작은 방향 설정 작업에 대부분의 시간을 쓰고 Claude가 나머지를 처리한다면, 각 엔지니어나 연구원이 관장하는 작업량은 이전보다 훨씬 많아집니다. 우리가 관찰한 증거에 따르면 Anthropic의 직원들은 속도를 높이는 동시에 범위를 넓히고 있습니다. 실제로 이는 AI가 효과적인 AI 도구가 등장하기 전보다 Anthropic의 운영 속도를 훨씬 빠르게 만들었음을 의미합니다.

상대적으로 대담한 해석은 Claude의 연구 판단력이 지속적으로 개선되고 있다는 초기 증거(아직 미약하지만)가 이 능력 역시 발전하고 있음을 시사한다는 점입니다. '연구 안목'은 단지 AI 시스템이 예전에는 잘하지 못했지만 나중에 학습한 또 다른 능력일 수 있습니다. 우리는 AI 시스템이 농담이 왜 웃긴지 설명하고, 마음 이론을 보여주며, 언어 퍼즐을 푸는 등 다른 정성적 기술에서 유사한 패턴을 목격했습니다.

가능한 미래

앞으로 어떤 일이 일어날지는 두 가지에 달려 있습니다. 이 추세가 지속되는지, 그리고 지속된다면 우리가 어떻게 대응할지 선택하는지입니다. 우리는 적어도 세 가지 미래 시나리오를 상상할 수 있습니다.

시나리오 1: 추세는 정체되지만, 오늘날의 AI 능력은 널리 보급된다

이 글에서는 많은 지수적 성장 궤적을 제시했습니다. 하지만 이러한 궤적은 실제로 S자형 곡선일 수 있습니다. 우리는 규모의 수익이 감소하기 시작하고 곡선이 평탄해지는 변곡점에 가까워지고 있을지도 모릅니다. 뛰어난 연구원과 탁월한 연구원을 구분하는 판단력은 훈련 투입(예: 컴퓨팅 파워와 데이터)을 확장한다고 해서 얻을 수 없는 능력일 수 있습니다. 만약 그렇다면, 이 장벽을 돌파하려면 완전히 새로운 접근 방식, 예를 들어 현재 모든 프론티어 모델이 사용하는 Transformer 아키텍처를 대체할 수 있는 새로운 아키텍처 솔루션이 필요할 것입니다.

또 다른 가능성은 AI 발전의 핵심 제약 요인이 모델 자체가 아닌 공급망에 있다는 점입니다. 첨단 기술을 추진하고 보급하는 데 필요한 에너지와 연산 능력이 현재 공급 능력을 초과할 수 있습니다. 칩 제조 속도, 전력망 확장 속도 또는 상호 연결 대역폭이 지능 자체보다 진정한 병목 현상일 수 있습니다. 또한 AI 생태계가 연산 능력이나 전력 공급의 급격한 위축과 같은 외생적 충격을 받을 가능성도 배제할 수 없습니다. 이 두 가지 중 하나라도 발생하면 진전이 지연되고 각 연구소의 선제적 투자 비용이 크게 증가할 것입니다. 또한 우리가 아직 예측하지 못한 다른 발전 장벽이 존재할 수도 있습니다.

모델의 성능이 오늘날 수준에서 동결되더라도 우리는 세상이 크게 변할 것으로 예상합니다. '글래스윙 프로젝트'(Project Glasswing)는 초기 징후입니다. 프로젝트 시작 후 첫 몇 주 만에 Mythos Preview는 세계에서 가장 중요한 시스템에서 1만 개 이상의 고위험 및 심각한 보안 취약점을 발견했습니다. 그 수가 너무 많아 사이버 방어의 병목 현상이 '취약점 발견'에서 '신속한 취약점 수정'으로 이동했습니다. 그리고 오늘날의 모델이 더 광범위한 경제로 확산되는 것은 아직 초기 단계에 있습니다. 그 미래에는 100명 규모의 회사가 점점 더 1000명 규모의 회사가 수행하는 작업을 완료할 수 있게 될 것입니다. 각 직원 아래에는 에이전트로 구성된 피라미드가 있기 때문입니다.

우리는 완전성을 위해 이 시나리오를 나열했지만, 발생 가능성은 낮다고 생각합니다. 우리가 측정할 수 있는 모든 능력(코드 품질 및 개방형 작업 성공률과 같이 정량화하기 어려운 능력 포함)은 지금까지 동일한 곡선을 따르고 있으며, 이 곡선이 꺾이는 것을 아직 보지 못했습니다. 우리가 고려하는 세 가지 미래 중에서 이 시나리오는 각국 정부와 사회에 가장 충분한 적응 시간을 제공할 것입니다. 우리는 다음 두 가지 시나리오를 더 우려합니다. 이 시나리오들은 더 빠르게 진화하고 준비할 여지가 더 제한적이기 때문입니다.

시나리오 2: AI 연구소가 지속적으로 복리식 효율성 향상을 얻는 경우

이 시나리오에서 AI 개발은 대부분 자동화되지만, 인간은 계속해서 연구 방향을 설정하고 결과를 평가합니다. AI 시스템을 사용하는 조직은 시간이 지남에 따라 효율성이 크게 향상되므로 각 직원이 생산성 배가 효과를 얻을 수 있습니다. 100명 규모의 회사가 1만 명 또는 10만 명 규모의 작업을 완료할 수 있게 됩니다. 이는 지식 노동과 정부 서비스를 완전히 혁신할 것이지만, 전체 인구에 대한 권위주의적 감시부터 각 개인에게 맞춤화된 영향력 조작 활동(어떤 인간 팀도 따라올 수 없는 규모로 운영됨)에 이르기까지 해로운 목적으로 사용될 수도 있습니다.

Anthropic과 같은 회사의 직원 역할도 변화할 것입니다. 사람들은 AI 시스템과 협력하여 연구 규모를 확장하고 새로운 통찰력을 창출하며 AI 출력의 신뢰성을 검증하는 데 필요한 시스템을 공동으로 구축할 것입니다.

이 글에서 제시하는 증거는 우리가 이러한 시나리오를 향해 나아가고 있을 가능성이 높음을 시사합니다. 하지만 프로세스를 가속화하는 특정 단계는 종종 병목 현상을 다른 곳으로 옮길 뿐입니다. 전체 속도는 아직 가속화되지 않은 부분에 의해 제약을 받습니다. 컴퓨터 과학 분야에서는 이를 암달의 법칙이라고 부르며, 동일한 논리가 조직 관리에도 적용됩니다. Anthropic은 이미 암달의 법칙의 전형적인 특징을 경험했습니다. 조직 내에서 더 많은 코드를 순환시키면서, 수동 코드 리뷰가 새로운 병목 현상이 되었습니다.

우리는 엔지니어링 분야 외부에서도 이러한 마찰을 겪었습니다. Anthropic 직원들이 고성능 모델과 협업함에 따라 새로운 아이디어, 새로운 이니셔티브, 새로운 도구, 새로운 시뮬레이션 방식이 우후죽순처럼 등장했습니다. 그 수는 우리가 실제로 추진할 수 있는 능력을 훨씬 초과합니다. 조직이 이러한 병목 현상을 식별하고 수정하는 속도는 시간이 지남에 따라 축적되는 능력일 수 있으며, 모든 조직의 가장 중요한 핵심 역량이 될 가능성이 있습니다.

시나리오 3: AI 시스템 자체가 완전한 재귀적 자기 개선 능력을 갖추고, 스스로 후계자를 구축하기 시작하는 경우

능력 향상의 기술적 추세가 지속되고 AI 시스템이 인간의 변혁적 창의성에 내재된 능력을 발전시킬 수 있다면, AI 시스템이 자율적으로 스스로를 설계하고 개선하는 것은 충분히 발생할 수 있는 일입니다.

이 세계에서 AI 개발의 진보 속도는 전적으로 AI 시스템이 사용할 수 있는 연산 능력(또는 알고리즘 훈련 및 추론 효율성 발견 속도)에 달려 있습니다. AI 개발에서 인간이 수행하는 역할은 크게 약화될 것이며, 우리의 작업 중심은 대부분 AI 시스템이 운영하는 확장되는 '가상 실험실'을 감독, 검증 및 확인하는 쪽으로 옮겨갈 것입니다. 우리는 자동화된 AI 연구 개발 능력을 갖춘 시스템이 그 능력을 다른 과학 분야로 이전하고 해당 분야를 혁신하기 시작할 것으로 예상합니다.

이러한 미래에서 정렬 문제가 어떻게 해결될지, 혹은 해결되지 못할지는 우리가 가장 확신하지 못하는 부분입니다. 모델이 충분히 정렬되어 있고 충분한 연구 안목을 갖추어 우리가 아직 도달하지 못한 새로운 솔루션을 자율적으로 탐색하고 구현할 수도 있습니다. 또한 조건이 성숙하지 않을 때 스스로 개발을 중단할 만큼 현명할 수도 있습니다. 하지만 다른 가능성도 존재합니다. 오늘날 모델에서 드물게 나타나는 정렬 오류가 모델이 후계자를 구축하는 과정에서 계속 누적되어 점점 더 빈번해지면서도 이해하기는 더욱 어려워져, 결국 우리가 그 통제권을 상실할 수 있습니다. 그리고 우리는 자신이 어떤 궤도에 있는지 판단하는 데 필요한 도구를 구축, 통합 및 검증할 충분한 시간과 능력을 갖추지 못할 수도 있습니다.

이 세계가 어떤 모습일지에 대해 우리는 좋은 직관을 가지고 있지 않습니다. 현재 경제는 인간과 인간이 만든 도구에 의해 움직이기 때문입니다. 본질적으로 빠른 재귀적 자기 개선에 의해 주도되는 세계는, 자기 개선 모델의 능력이 인간을 완전히 능가하고 더 넓은 경제로 확산되는 과정에서 이 모델에 의해 지배될 가능성이 있습니다. 만약 인간 노동력이 경쟁력을 상실한다면, 그때의 경제 형태는 예측하기 어려울 것입니다.

모델 개발이 완전히 자동화되어 재귀 모드에 진입하더라도, 이것이 대부분의 일반인들의 일상생활에 어떤 의미를 가질지는 예측할 수 없습니다. 여기서도 암달의 법칙이 적용됩니다. 재귀적 지능은 특정 분야에서 《사랑의 기계》(Machines of Loving Grace)가 묘사한 많은 긍정적인 전망을 빠르게 실현할 수 있습니다. 우리는 구현 지능(즉, 로봇 기술)이 재귀적 지능 직후에 유사한 경로를 따라 비용 감소와 수익 증가의 패턴을 보일 것으로 예상합니다. 더 강력한 지능은 물리적 세계에서 사물을 더 빠르게 구축하고, 생명을 구하는 신약의 임상 시험을 더 효과적으로 만들며, 새로운 협력 및 조정 형태를 개발하는 데 도움을 줄 수 있습니다.

그러나 재귀적 개선만으로는 산업 생산 방식, 사회 조직 형태 또는 시장 운영 메커니즘이 즉시 변화하지는 않습니다. 더 강력한 지능은 수십 년간 사용된 약물의 효과를 빠르게 알 수 없게 하거나, 선거를 헌법에 명시된 날짜보다 앞당기거나, 주말 동안 낯선 사람을 오랜 친구로 만들 수 없습니다. 대부분의 사람들에게 이러한 미래는 여전히 병목 현상에 의해 좌우될 것이며, 상류 실험실이 컴퓨팅 속도로 질주하더라도 체감상 그렇습니다. 여기서 재귀적 지능은 점점 더 빠른 속도로 스스로를 구축하며, 인간, 관계 및 거버넌스로 구성된 현실 세계와 충돌합니다. 그 충돌 지점이 어떤 모습일지는 이 미래에서 우리가 예측할 수 없는 또 다른 부분입니다.

우리는 어떻게 해야 할까?

이 기술의 발전 속도를 효과적으로 늦추어, 그 심오한 영향에 대응할 시간을 확보할 수 있다면, 이는 아마도 좋은 일일 것입니다. 그러나 속도 조절이 가장 신중하지 않은 행위자들이 기술적으로 따라잡도록 만든다면, 최종 결과는 모두에게 더 불안전한 상황을 초래할 수 있습니다. 글로벌 조정 메커니즘이 부재한 상황에서, 기업과 정부는 경쟁 압력과 지정학적 압력 속에서 어려운 안전 선택을 해야 할 것입니다.

우리는 세계가 최첨단 AI 개발을 늦추거나 일시 중단할 수 있는 옵션을 갖는 것이 유익할 것이라고 생각합니다. 이는 사회 구조와 정렬 연구가 기술 발전 속도를 따라잡는 데 도움이 될 것입니다. Anthropic 연구소는 다양한 협력자들과 함께 연구를 수행하고 실질적인 조치를 취하여, 신뢰할 수 있는 감속 또는 일시 중단 메커니즘에 필요한 제도 체계를 구축하는 데 기여할 것입니다. 이러한 체계는 최첨단 AI 개발자들이 글로벌 다른 기관이 실제로 개발을 중단하거나 늦추었는지 확인할 수 있게 하고, 조정된 감속을 빌미로 나쁜 행위자가 몰래 앞서 나가는 것을 방지할 것입니다. 이러한 체계가 구축된다면, 우리는 감속 또는 일시 중단을 선택할 것으로 예상합니다. 단, 최첨단 또는 그에 근접한 다른 개발자들도 검증 가능한 방식으로 동시에 그렇게 하는 경우에 한합니다.

의미 있는 감속 또는 일시 중단을 위해서는 여러 국가에 걸쳐 충분한 자원을 보유한 최첨단 또는 그에 근접한 여러 연구소가 동일한 조건에서 중단 합의에 도달해야 하며, 각 당사자가 실제로 중단했는지 확인할 수 있어야 합니다. AI 시스템의 독특한 특성으로 인해, 이 군비 통제 문제에서 '탐지 가능성'( '검증 가능성'보다 낮은 기준)은 다른 기술보다 훨씬 더 어렵습니다. 훈련 실행은 미사일 사일로보다 훨씬 숨기기 쉬우며, 그 투입은 범용적이고, 조용히 위반할 유인이 매우 강력합니다. 다른 사람이 멈출 때 계속 진행하는 사람이 선두를 차지할 기회를 갖기 때문입니다. 신뢰할 수 있는 일시 중단 메커니즘은 또한 어떤 조건이 중단을 촉발하고, 어떤 조건이 중단을 해제하며, 누가 판단할지 명확히 규정해야 합니다.

이 모든 것이 원칙적으로 불가능한 것은 아닙니다. 세계는 이전에도 복잡한 기술에 대한 검증 메커니즘을 구축한 적이 있습니다(예: 중거리 핵전력 조약). 그러나 당시에는 인프라를 구축하고 상호 신뢰를 형성하는 데 수십 년이 걸렸습니다. 우리에게는 그만한 시간이 없습니다. 이와 대조적으로, 한 연구소의 일방적인 중단은 즉시 실행 가능하지만 효과는 미미합니다. 단지 선두 주자만 바꿀 뿐, 현재 부재하는 더 광범위한 심의 과정을 촉진하지는 못합니다.

앞으로 몇 달 동안, 우리는 정책 입안자, 연구자, 시민 사회 및 기타 AI 기업들을 초청하여 이 글에서 제기된 여러 문제, 특히 완전한 재귀적 자기 개선과 조정 및 심의를 위한 더 나은 조건 창출 방안에 대해 논의하는 대화를 조직할 것입니다. 우리는 이러한 대화의 결과를 공개할 것입니다. 이러한 문제를 함께 논의할 수 있는 창은 이미 열려 있으며, AI 기업 외부의 사람들도 이 심의에 참여할 자격이 있습니다.

## 주석

· METR의 핵심 측정 지표는 AI 시스템이 일련의 작업에서 50% 신뢰도에 도달하는 시간 범위를 반영하지만, 80% 신뢰도 기준에서도 추세선의 형태는 동일합니다.

· 특히 벤치마크가 더 개방적인 형식과 더 높은 난이도의 작업(예: 올림픽 수준의 수학 문제)으로 전환될 때, 문제와 답변 집합에 오류(예: 모호한 표현의 문제와 해결 불가능한 문제)가 존재하기 때문에 벤치마크는 종종 100%에 도달하기 전에 포화 상태에 이릅니다.

· Anthropic의 리더십은 스크립트와 실험적 코드를 포함하여 90% 이상의 코드가 Claude에 의해 작성되었다고 공개적으로 추정한 바 있습니다. 우리의 80% 이상은 프로덕션 환경에 병합되어 Claude에 귀속될 수 있는 코드 라인의 비율을 의미합니다. 이는 두 가지 측면에서 더 보수적인 측정 방식입니다. 첫째, 귀속 프로세스에 일부 공백이 있고, 둘째, Claude에 귀속되지 않은 코드 라인에는 자동 생성 코드 및 기타 사람이 직접 작성하지 않은 산출물이 포함되어 있기 때문입니다.

· 코드 생산량의 급증은 모두가 공유하는 인프라에 압력을 가하고 있습니다. GitHub(전 세계 대부분의 소프트웨어가 구축되는 플랫폼)는 2025년 전체에 약 10억 건의 코드 커밋이 있었습니다. 반면 2026년 중반까지 주간 커밋량은 2억 7,500만 건에 달했으며, 이 속도라면 연간 약 140억 건에 이를 것으로 예상됩니다. 해당 회사의 최고 운영 책임자는 이러한 속도를 따라잡기 위해 회사가 '총력을 기울여' 용량을 확장하고 있다고 밝혔습니다.

· 이번 조사 방법에 대한 자세한 내용은 Claude Opus 4.7 시스템 카드의 섹션 2.3.5를 참조하십시오.

· 많은 응답자가 답변에서 다양한 편향이나 문제 정의의 미묘한 차이를 어떻게 처리할지 충분히 고려하지 않았을 수 있습니다. METR의 최근 연구에 따르면 개발자들은 AI의 생산성 향상 폭을 과대평가하는 경향이 있습니다.

· 가속 배수의 크기는 시작 코드에 얼마나 많은 개선 여지가 남아 있는지에 크게 좌우되며, 실제 세계의 훈련 속도 향상 배수로 해석되어서는 안 됩니다. 따라서 절대 배수는 여기서 핵심적인 숫자가 아닙니다. 더 중요한 것은 이 실험 설정이 가능하게 한 동등 조건 비교입니다. 이는 모델 간 비교(지난 1년 동안 약 3배에서 약 52배로 증가)와 동일한 작업을 수행하는 숙련된 인간과의 비교(4~8시간에 약 4배) 모두에 적용됩니다.

· 판단 편향에 대한 검증으로, 우리는 인간의 다음 선택이 이미 우수했던(원래 그룹에서 인간의 결정에 개선 여지가 있었던 시점과 대비하여) 또 다른 127개 시점에 대해 동일한 테스트를 수행했습니다. 결과에 따르면, 그러한 시점에서 모델의 제안이 더 우수하다고 판단된 경우는 약 20%에 불과했습니다.