동차 Beating 모니터링에 따르면, 중국 국가안전부는 6월 8일 공개 글을 통해 국내외 대형 언어 모델(LLM) API 프록시 서비스를 통합하는 'AI 중계소'의 보안 위험을 경고했습니다. 사용자와 대형 모델 업체 간의 중개 에이전트 역할을 하는 중계 플랫폼은 여러 모델을 통합하고, 저가 보조금을 제공하며, 해외 대형 모델에 직접 연결을 지원함으로써 국내에서 많은 사용자를 유치했습니다. 국가안전부는 현재 중계 시장이 무질서하게 운영되면서 개인정보 유출, 데이터 해외 반출 통제 불가 등 여러 보안 위험이 발생하고 있다고 지적했습니다.
중계 플랫폼은 제3자 포털로서 일반적으로 정규 데이터 암호화 및 관리 메커니즘이 부족하며, 일부 운영자는 사용자 데이터를 무단으로 가로채 다른 대형 모델 업체에 시스템 훈련용으로 재판매합니다. 일부 중계 서비스는 비용 절감을 위해 저사양 모델을 고급 모델로 속이고 검증 기능을 비활성화하여 모델 출력 내용이 왜곡됩니다. 일부 중계소에는 백도어가 숨겨져 있어, 불법 행위자가 이를 통해 사용자 기기에 악성 코드를 심어 계정 자격 증명을 탈취하거나 원격 모니터링을 수행할 수 있습니다. 일부 플랫폼은 데이터 해외 반출 규정을 준수하지 않고 데이터를 해외로 전송하여 개인정보, 영업 비밀 및 국가 기밀이 유출될 위험에 처해 있습니다.
중앙사이버공간정보판공실은 최근 전국적으로 '청랑·AI 애플리케이션 혼란 정리' 특별 캠페인을 전개했습니다. 국가안전부는 사용자가 중계 서비스를 이용할 때 정식 승인을 받고 안전 규정을 준수하는 플랫폼을 선택하고, 프로젝트 자료 및 개인정보 등 민감 데이터를 사전에 비식별화 처리하며, 키 관리를 철저히 하고 자격 증명을 정기적으로 교체할 것을 권고합니다. 중계 서비스를 이용해 국가 안전을 위협하는 행위를 발견하면 12339 또는 국가안전부 플랫폼을 통해 신고할 수 있습니다.
