알트만 내부 발언: OpenAI, 동종 업계와 연합해 AI 개발 속도 늦추는 방안 고려 중

동찰 Beating AI 속보, OpenAI CEO Sam Altman은 이번 주 전원 회의에서 회사가 프런티어 AI 개발을 늦추는 것을 고려할 수 있으며, 주요 AI 기업 몇 곳이 함께 속도를 줄이는 것이 좋다고 밝혔습니다. 그러나 그는 모든 회사가 동의하지는 않을 것이라고 인정했습니다.

OpenAI 수석 과학자 Jakub Pachocki는 이번 주 공개적으로 현재 어떤 연구소도 충분히 신뢰할 수 있는 정렬 및 모니터링 문제를 해결하지 못해 장기간 최고 속도로 모델 확장을 계속할 수 없다고 밝혔습니다. 그는 통일된 안전 기준이 마련되기 전에 각 회사가 자발적으로 속도를 줄이기를 바랍니다.

OpenAI는 최근 실제로 일부 모델 개발 속도를 늦추었고, 안전 문제로 일부 내부 훈련을 중단한 적도 있습니다.