GPT-6, 신경망을 '손으로 작성'하기 시작하다: 게임 규칙을 가중치로 변환, 브레이크아웃 점수 20배 높아져

동찰 Beating AI 속보, 신경망에는 수백만, 수억 개의 파라미터가 있어 과거에는 주로 훈련 알고리즘을 통해 반복적으로 조정했다. MIT 연구팀은 그러나 GPT-6 Astra가 이미 이 숫자들을 직접 분석하고 수정할 수 있으며, 심지어 훈련 없이도 제로에서 신경망 한 세트를 작성할 수 있다는 것을 발견했다.

연구원들은 간소화된 벽돌깨기 게임의 규칙, 소스 코드, 그리고 가중치가 모두 0인 신경망 한 세트를 GPT-6에 주고 파라미터를 스스로 채우게 했다. 훈련 데이터를 제공하지 않고 시험 플레이도 허용하지 않았다. GPT-6는 스스로 공의 낙하 지점을 추산하여 예측과 패들 이동 논리를 신경망 가중치에 작성했다. 최종 게임 점수는 517.4점에 도달했으며, 이는 동일한 구조로 5억 스텝 강화학습 훈련을 거친 모델의 약 20배다. 다만 다른 두 게임에서는 5억 스텝 훈련 모델을 능가하지 못했다.

연구원들은 이어 GPT-6가 알리 Qwen3.5-0.8B의 가중치를 직접 수정하게 했다. 모델을 재훈련하지 않고 단지 0.016%의 파라미터만 변경하여 MATH-500 수학 정확도를 7.9%에서 48.1%로 끌어올렸고, 명령 준수 점수도 거의 3배 향상시켰다.

알고 보니 Qwen은 종종 사고의 무한 루프에 빠져 반복 추론만 하고 답을 내놓지 않았다. 수정 전에는 93%의 수학 테스트 답변이 32768개 토큰을 소진했으나, 수정 후에는 33.1%로 떨어졌다. GPT-6는 모델이 정상적으로 답변하는 데 방해가 되는 문제를 고친 셈이다.

그러나 파라미터 수가 2억 7천만 개에 불과한 Gemma 3 270M으로 바꾸자 GPT-6는 수학 성적을 뚜렷하게 향상시키지 못했다. 이 더 작은 모델은 무한 루프에 빠지는 경우가 드물고, 주된 문제는 산술과 추론 자체가 쉽게 틀리는 것이어서 소량의 가중치 수정으로 쉽게 해결할 수 없었다.

연구원들은 이렇게 파라미터를 직접 읽고 쓰는 방법을 「가중치 공간 프로그래밍」(Weight-Space Programming)이라고 부른다.