OpenAI CEO가 유엔에서 글로벌 AI 안전 표준을 추진할 예정이다

동찰 Beating AI 속보, OpenAI CEO Sam Altman이 유엔 안전보장이사회에서 발언하여 통일된 글로벌 AI 안전 표준을 수립하고 동시에 혁신을 지연시킬 수 있는 제한 조치 도입을 피할 것을 주장할 예정이다. OpenAI는 특정 국제 규제 기관 설립을 지지하지 않으며, 기본 안전 표준과 민주적 감독을 선호한다고 밝혔다. Anthropic CEO Dario Amodei도 화상으로 참석할 것으로 예상된다.

앞서 FT 보도에 따르면, OpenAI는 월요일 미국 정부가 국제 AI 표준 수립을 주도할 것을 촉구하며 각국이 AI 모델의 능력과 위험을 조율하여 평가할 것을 제안했다. OpenAI CEO Sam Altman은 이번 주 유엔 안전보장이사회에 관련 방안을 소개할 예정이다. OpenAI는 특히 재귀적 자기 개선(RSI)이 새로운 위험을 초래할 수 있다고 경고했는데, 이는 점점 더 많은 AI 모델 훈련 작업이 다른 AI 시스템에 의해 수행되는 것을 의미한다. 적절한 안전 조치가 없으면 AI가 인간이 효과적으로 감독할 수 없는 수준으로 빠르게 반복 발전하여 인류가 AI 발전에 대한 실질적 통제를 점차 상실할 수 있다. 관련 제안은 AI 안전 우려가 고조되는 시점에 나온 것이다.