동차 Beating 모니터링에 따르면, 유럽 AI 유니콘 기업 Mistral이 콘텐츠 심사 모델 Shieldstral을 출시했습니다. 이 모델은 단 30억 개의 파라미터로 텍스트, 이미지, 이미지+텍스트 콘텐츠를 검사할 수 있으며, AI가 답변을 거부해야 하는지도 판단할 수 있습니다.
많은 전통적인 심사 모델은 사전에 음란물, 폭력, 혐오 등의 범주를 설정합니다. 심사 기준이 변경되면 일반적으로 추가 데이터를 보충한 후 모델을 재훈련하거나 미세 조정해야 합니다.
Shieldstral은 자연어 규칙을 직접 읽을 수 있습니다. 개발자가 심사 요구 사항을 수정하면 모델을 재훈련하지 않고도 새로운 기준으로 전환할 수 있습니다.
이 모델은 중국어를 포함한 12개 언어를 지원하며 Apache 2.0 라이선스를 채택했습니다. 공식 발표에 따르면, 단일 16GB VRAM의 엔비디아 그래픽 카드로 실행 가능하며, 텍스트 심사 성능은 파라미터 수가 약 7배인 GPT-OSS-Safeguard-20B와 동등합니다.