AI가 더 강력한 AI를 스스로 개발하고, 4년의 발전을 1년으로 압축: 드워케시, 초지능이 이르면 내년에 등장할 것으로 예측

동찰 Beating AI 속보, 저명한 AI 팟캐스트 진행자 Dwarkesh Patel이 초지능에 대한 예측을 크게 앞당겼다. 몇 달 전만 해도 그는 AI가 이렇게 빨리 발전할 수 있다고 믿지 않았지만, 이제는 2030년이면 초지능이 출현할 수 있으며, 빠르면 내년일 수도 있다고 본다.

AI가 가장 유력하게 2028년경 최고 수준의 인간 AI 연구원과 대등해질 수 있으며, 빠르면 몇 달 안에 가능할 수도 있다. 일단 AI가 더 강력한 AI를 자체 개발할 수 있게 되면, 원래 수년이 걸리던 기술 진보가 1년으로 압축될 수 있다.

METR이 최근 Anthropic을 조사한 결과, 그 모델이 일부 정량화 가능한 과제에서의 능력 향상 속도가 과거의 약 두 배에 달했으며, 그 가속의 대부분은 AI가 연구개발에 참여한 데서 비롯된 것으로 보인다. Anthropic 자체 데이터에 따르면 올해 2월 Claude가 주도한 연구개발 작업은 1% 미만이었으나, 8월에는 26%에 도달했으며 여전히 인간의 감독이 필요하다.

AI 연구개발의 많은 작업은 실험으로 검증할 수 있다. 예를 들어 훈련 알고리즘을 조정하거나 데이터를 최적화한 후 모델이 강해졌는지 직접 테스트할 수 있다. AI는 계속 방안을 제시하고, 실험하고, 결과를 확인한 뒤 다시 개선할 수 있다. 수학과 프로그래밍 분야에서 이미 유사한 능력 도약이 나타났으며, AI 연구개발에서도 그럴 수 있다.

일단 최고 연구원 수준에 도달하면 AI는 24시간 내내 일할 수 있으며, 동시에 대량의 연구 에이전트를 배치할 수 있다. Dwarkesh의 추산에 따르면 단일 AI 연구원이 매주 완료하는 작업량은 인간의 50배일 수 있다. 다만 실험은 여전히 컴퓨팅 파워를 소모하므로 전체 연구개발 속도가 직접 50배로 높아지지는 않는다.

AI 연구개발이 자동화되면 이후 두 가지 상황이 나타날 수 있다:

하나는 AI가 끊임없이 자신을 개선하여 불과 몇 달 만에 현존 칩이 지원할 수 있는 능력의 한계에 근접하는 경우;

다른 하나는 먼저 3~6년의 기술 진보를 1년으로 압축한 뒤, 컴퓨팅 파워와 실험 자원 부족으로 속도가 느려지는 경우이다.

Dwarkesh는 이 두 시나리오에 각각 50%의 주관적 확률을 부여했다.

현재 AI는 아직 완전히 독립적으로 프런티어 연구개발을 완수할 수 없다. 올바른 연구 방향을 찾는 것은 표준 답이 있는 문제를 해결하는 것보다 훨씬 복잡하다. 이 부분의 능력이 좀처럼 돌파되지 않으면 일정은 지연될 수 있다. Dwarkesh는 AI가 2032년 이후에야 최고 수준의 인간 AI 연구원과 대등해질 가능성이 여전히 25% 있다고 본다.