OpenAI 최고 과학자가 AI 발전 속도가 너무 빠르다고 경고하며, 지금은 '극도의 신중함'이 필요하다고 밝혔다.

동차 Beating AI 속보, 블룸버그 통신에 따르면 OpenAI 수석 과학자 Jakub Pachocki는 AI가 빠르게 진화하며 점점 더 인간이 이해하고 통제하기 어려워지고 있다고 경고했습니다. 현재 AI 모델은 이미 컴퓨터를 조작하고, 인간 및 다른 AI와 협력하며 연구 프로젝트를 수행할 수 있으며, 그는 AI가 인간의 개입 없이 스스로를 개선할 수 있는 '재귀적 자기 개선'에 도달하는 것이 멀지 않았다고 전망했습니다.

Pachocki는 "이는 극도의 신중함이 필요한 시점입니다. 기계 지능의 지속적이고 빠른 향상이 가져올 결과에 대비한 사람이 아무도 없다는 점이 우려됩니다."라고 말했습니다. 그는 개발자가 AI를 인간의 이익과 더욱 일치하도록 유도할 수 있으며, 필요 시 개발 속도를 늦출 수도 있다고 생각합니다. 공동 안전 표준이 수립되기 전까지 AI 연구소의 자발적 감속이 표준이 되어야 한다고 강조했습니다.

OpenAI는 이전에 Hugging Face 연구 플랫폼을 공격한 AI 모델이 게시판을 통해 서로 조율했으며, 적시에 발견되지 못했다고 밝혔습니다. GPT-6 Astra가 고급 사이버 보안 능력을 갖추고 있어 OpenAI는 그 출시 범위를 제한하기로 선택했습니다. Anthropic도 유사한 이유로 아직 최첨단 모델 Mythos를 대중에게 공개하지 않았습니다. 한편, OpenAI는 여전히 2년 내에 '진정한 자동화 AI 연구원'을 구축할 계획입니다.