AI 보안 경보가 격상되면서 찰스 3세 영국 국왕이 4대 AI 거물들을 소집해 회의를 열었다.

동찰 Beating AI 속보, 영국 국왕 찰스 3세가 이번 주 스코틀랜드 Dumfries House에서 여러 AI 기업 고위 관계자들을 소집하여 AI가 어떻게 개발되고 배치되어야 진정으로 사회에 이익이 될 수 있는지 논의할 예정이다.

버킹엄궁이 나열한 기업으로는 엔비디아, Google DeepMind, OpenAI, Anthropic이 있으며, 영국 AI 장관 Kanishka Narayan도 참석한다. OpenAI는 CFO Sarah Friar의 참석을 확인했다.

이 회의는 최근의 'AI 감속' 호소 때문에 급하게 추가된 것이 아니며, 관련 일정은 일주일 전에 이미 공개되었다. 그러나 이제 공식적으로 등장하면서 AI 안전 논쟁이 가장 격렬한 시기와 맞물렸다. Anthropic CEO Dario Amodei는 방금 프런티어 AI 능력 향상을 늦출 것을 요구하며, AI가 차세대 AI 개발을 돕기 시작하면 진보 속도가 인간의 이해와 통제 능력을 초과할 수 있다고 우려했다. Sam Altman과 Elon Musk는 뒤이어 공개적으로 지지했다.

회의는 영국 비영리 기관 Ditchley Foundation이 조직을 지원한다. 왕실 관계자는 앞서 찰스가 AI 정책에 대해 자신의 입장을 밝히지 않을 것이며, 그의 역할은 소집하고 경청하며 논의를 촉진하는 것이라고 명확히 밝혔다.