머스크, AI 거대 기업들 상호 모델 테스트 제안: 더 이상 '자기 숙제를 자기가 채점하지' 말라

동찰 Beating AI 속보, 머스크가 All-In 서밋에서 제안하기를, 최전선 AI 기업들이 새 모델을 출시하기 전에 경쟁사가 먼저 한 차례 안전 테스트를 하도록 해야 한다고 했다. 각 기업이 자신들의 안전 테스트 체계로 다른 회사 모델의 문제를 찾아내고, 리스크를 발견하면 바로 지적해야 하며, 더 이상 스스로 자기 검수를 하는 데 그쳐서는 안 된다는 것이다.

머스크는 현재의 방식을 「자기가 자기 숙제를 채점하는 것」에 비유했다. 자체 테스트에 비해 경쟁사가 문제를 찾아낼 동기가 더 크다. 만약 경쟁사가 이미 어떤 모델이 안전하지 않다고 경고했는데도 회사가 계속 출시를 강행해 나중에 실제로 사고가 발생한다면, 변명하기 어려워지고 법적 책임도 매우 커진다.

그는 또한 이 메커니즘을 미국 기업만 일방적으로 실행하게 해서는 안 되며, 중국 등 주요 AI 참여국도 포함시켜 미국 기업만 일방적으로 제한을 떠안는 상황을 피하는 것이 바람직하다고 생각했다.