인터넷정보판공실: 두바오, 위안바오, 첸원, 원신일언 등은 위반 콘텐츠 생성을 엄격히 제한한다.

동차 Beating AI 속보, 중국 중앙사이버공간정보판공실(中央网信办)이 최근 '청량·AI 활용 무질서 근절' 특별 조치 2단계를 전개하여, AI를 이용한 허위 정보 생성·유포, 폭력 및 저속 콘텐츠, 타인 사칭 및 미성년자 권익 침해 등의 문제를 중점적으로 단속하고 있습니다. 현재까지 특별 조치를 통해 위법·부적절 정보 561만여 건을 정리하고, 계정 4만 9천여 개를 적발했으며, 위반 웹사이트·애플리케이션 등 2,400여 개를 처리했습니다.

AI 콘텐츠 관리 측면에서, 더우인(抖音), 콰이서우(快手), 웨이보(微博), 텐센트(腾讯), 바이두(百度), 빌리빌리(哔哩哔哩), 샤오홍슈(小红书), 즈후(知乎), 더우반(豆瓣), 타오바오(淘宝) 등 플랫폼은 다중 모드 인식 기능을 더욱 강화하고, 얼굴 데이터베이스, 음성 지문 데이터베이스 및 위반 샘플 데이터베이스를 동적으로 확장했으며, 위반 계정 및 정보에 대한 처리 강도를 높여 총 46회의 각종 관리 공고를 발표했습니다.

동시에, 더우바오(豆包), 위안바오(元宝), 첸원(千问), 원신이옌(文心一言) 등 AI 플랫폼은 원본 말뭉치 심사 기준을 엄격히 적용하고, 위반 콘텐츠 출력을 엄격히 제한하며, AI 생성·합성 콘텐츠 표시 요구 사항을 강화했습니다. 화웨이(华为), 샤오미(小米), OPPO, 비보(vivo) 등 앱 스토어는 앱 개발자 등록 및 등재 심사를 강화하고, 등재된 앱에 대한 샘플 검사 및 재검증을 실시했습니다.

특별 조치 기간 동안, 사이버공간정보 부서는 AI를 이용한 고전 명작 '마개조', 허위 재해 및 사회적 이슈 정보 생성, AI 얼굴 바꾸기·목소리 변조를 통한 공인 사칭, 폭력·저속 콘텐츠 대량 제작, AI를 이용한 미성년자 권익 침해 정보 생성, AI '위탁 관리' 소프트웨어를 이용한 네트워크 워터마케팅 활동 등 다수의 전형적인 사례를 통보했습니다. 위반 AI 제품 및 애플리케이션에 대해 관련 부서는 법에 따라 경고, 벌금, 하향 조치 또는 폐쇄 등의 조치를 취할 예정입니다.