Anthropic CEO: 안전을 고려하여 회사는 AI 연구 개발 속도를 늦출 것입니다

동찰 Beating AI 속보, Anthropic CEO Dario Amodei가 유엔 안전보장이사회에서 경고하며, 효과적인 관리가 없으면 AI가 인류 전체에 생존 위협이 될 수 있다고 밝히고 각국에 글로벌 AI 안전 표준 수립을 촉구했다.

Amodei는 수요일 화상으로 안보리 회의에 참석해 AI가 불법 분자들에 의해 생물무기 제조에 악용될 수 있으며, 최종적으로는 개발자도 통제할 수 없는 시스템으로 발전할 수 있다고 말했다. 안전을 고려해 Anthropic은 AI 연구 개발 속도를 늦출 것이다.

Amodei는 또한 AI 안전 인증 체계 구축과 글로벌 규제 협력을 촉구하며, 각국이 협력하여 AI가 생화학무기에 사용되는 것을 막아야 한다고 밝혔다. 그는 어떤 지도자, 기업, 국가도 AI가 가져오는 도전에 혼자 대응할 수 없다고 말했다.

Amodei는 동시에 AI가 생명과학 분야의 진전을 이끌고 있다고 지적하며, Anthropic의 Claude가 CRISPR 유사 DNA 반복 서열을 가진 새로운 효소 시스템 발견에 참여했지만 관련 기술이 재앙적 위험을 초래할 수도 있다고 밝혔다.

이번 발언은 이달 초 Amodei가 제시한 AI 안전 주장을 이어가는 것이다. Anthropic과 OpenAI는 모두 최전선 AI 모델 경쟁의 핵심에 있으며, 그들의 연구 개발 속도와 안전 정책은 투자자와 규제 기관의 주목을 받고 있다.