OpenAI 최고 과학자가 AI 발전이 너무 빠르다고 경고하며, 지금은 '극도의 신중함'이 필요하다고 밝혔다.

동차 Beating AI 속보, OpenAI 수석 과학자 야쿠프 파초츠키(Jakub Pachocki)는 인공지능의 발전 속도가 너무 빨라 점점 더 인간이 이해하고 통제하기 어려워지고 있다고 경고하며, "지금은 극도의 신중함이 필요하다"고 밝혔다.

그는 AI 모델이 이미 컴퓨터를 조작하고, 인간 및 다른 AI와 협력하며 연구를 수행할 수 있으며, 머지않아 인간의 개입 없이 '재귀적 자기 개선'을 실현할 수도 있다고 지적했다. 파초츠키는 기계 지능의 지속적인 급속한 발전이 가져올 결과에 대해 아무도 대비하지 못한 것을 우려한다고 말했다.

개발자는 AI를 인간의 이익에 더 부합하게 만들 수도 있고, 필요할 경우 미래 연구 개발 속도를 늦출 수도 있다. 그는 업계가 공동 안전 기준을 수립하기 전까지 AI 연구소의 '자발적 속도 조절'이 일반화될 것으로 예상하고 희망한다. 현재 OpenAI는 이미 GPT-6 Astra가 고급 사이버 보안 능력을 갖추고 있어 제한적 출시 방식을 채택하고 있다.