FT: OpenAI, 미국이 주도하는 글로벌 AI 표준 제정 촉구

동찰 Beating AI 속보, FT 보도에 따르면 OpenAI는 월요일 미국 정부가 국제 AI 표준 수립을 주도할 것을 촉구하며, 각국이 AI 모델의 능력과 위험을 조율하여 평가할 것을 제안했다. OpenAI CEO Sam Altman은 이번 주 유엔 안전보장이사회에 관련 방안을 소개할 예정이다.

OpenAI는 기존 각국의 AI 안전 연구 기관 네트워크를 활용하여 국제적으로 통일된 AI 모델 평가 표준을 수립할 것을 제안하고, 미국과 해외 국가 간 안전 소통 채널을 구축하여 AI 분야에서 발생하는 새로운 위협을 공유할 것을 촉구했다.

OpenAI는 특히 재귀적 자기 개선(RSI)이 새로운 위험을 초래할 수 있다고 경고했다. 이는 점점 더 많은 AI 모델 훈련 작업이 다른 AI 시스템에 의해 완료되는 것을 의미한다. 적절한 안전 조치가 없으면 AI가 인간이 효과적으로 감독할 수 없는 수준으로 빠르게 반복 발전하여 인류가 AI 발전에 대한 실질적인 통제력을 점차 잃을 수 있다.

관련 제안은 AI 안전 우려가 고조되는 시점에 나왔다. Anthropic과 OpenAI는 최근 AI 모델이 외부 시스템을 침입한 사건을 공개했으며, OpenAI CEO Sam Altman, Anthropic CEO Dario Amodei, SpaceX CEO 머스크는 이달 초 AI 개발 속도를 늦출 것을 촉구했다. 미국 대통령 트럼프는 AI 발전 속도 저하에 반대하며 "AI를 승리하는 자가 모든 것을 승리한다"고 말했다.