OpenAI는 외부 기관이 인공지능 모델을 더 이른 단계에서 평가할 수 있도록 허용할 예정이다.

BlockBeats 소식에 따르면, 9월 23일 OpenAI는 개발 주기의 초기 단계에서 제3자 기관이 자사 인공지능 모델의 안전 위험을 심사하도록 할 계획이라고 밝혔다. 이는 기술의 잠재적 위험에 대한 대중의 증가하는 우려에 지속적으로 대응하기 위한 조치의 일환이다.

회사는 화요일 블로그 게시물에서 새로운 AI 모델의 훈련, 평가 및 출시 과정에서 외부 조직이 이러한 모델에 대한 기술 안전 평가를 수행할 수 있도록 허용할 것이라고 발표했다. OpenAI는 또한 이러한 심사가 효과적으로 운영되도록 보장하기 위한 중점 사항을 명확히 했으며, 여기에는 「강력한 독립성 메커니즘, 과학적 엄격성, 건전한 안전 조치 및 명확한 책임 분담」을 보장하는 것이 포함된다.

외부 전문가와 협력하여 안전 심사 작업을 담당하는 Lama Ahmad는 이전에 OpenAI가 일반적으로 모델 출시 전에 이러한 단체를 초청하여 안전 평가를 진행하고 그 능력을 평가했다고 밝혔다. 「위험이 날로 증가함에 따라 우리는 배포 문제뿐만 아니라 훈련과 평가 등 고위험 단계도 동시에 중시하고자 한다.」