Anthropic CEO: AI 모델 능력 향상 속도를 늦추고, 회사가 정렬을 수행할 충분한 시간을 확보하여 모델을 보호해야 합니다.

동찰 Beating AI 속보, Anthropic CEO Dario Amodei가 장문의 글을 발표하며 업계는 AI 모델 능력 향상 속도를 늦춰야 한다고 밝혔다. 속도를 늦추는 것은 모델 훈련이나 기술 발전을 중단하는 것을 의미하는 것이 아니라, 회사가 정렬(alignment)을 수행하고 모델을 보호할 충분한 시간을 확보하도록 보장하는 것이다.

Dario Amodei는 동시에 민주 국가 내 프론티어 AI 기업들이 협력하여 공동 안전 기준을 수립할 것을 제안했다.