OpenAI와 Anthropic이 처음으로 미국 중간선거 '워룸'을 설치해 허위 정보 확산과 플랫폼 남용에 대응한다

BlockBeats 소식에 따르면, 11월 4일 OpenAI와 Anthropic이 처음으로 미국 중간선거를 위해专门的 '상황실'을 설치하여 각자 플랫폼에서 정확한 선거 정보를 제공하도록 보장할 예정입니다. Anthropic 대변인은 회사 각 팀이 연중 내내 선거 관련 보호를 강화하고 플랫폼 정책을 집행해 왔으며, 선거 전에 설치된 전담 팀이 플랫폼 남용 상황을 모니터링하고 돌발 사태에 신속히 대응할 준비를 갖출 것이라고 밝혔습니다.

기술 플랫폼이 선거 '상황실'을 설치하는 관행은 2018년으로 거슬러 올라갑니다. 당시 Meta가 선거 허위 정보 확산에 대응하기 위해 처음으로 이런 팀을 설치했습니다. 현재 플랫폼들은 딥페이크 영상과 AI 검색이 잘못된 정보를 전파할 위험에도 직면해 있습니다. 보도에 따르면 구글 AI Mode는 지난주 '누가 2020년 미국 대통령 선거에서 승리했는가'라는 질문에 답하지 않았으며, 구글은 수정 중이라고 밝혔습니다.

AI 출력의 예측 불가능성, 최근의 사이버 보안 문제, 그리고 AI 검색 도구가 사용자의 기대에 부응하려는 경향은 모두 모니터링과 대응의 난이도를 높입니다. Meta 전 공공정책 책임자 Katie Harbath는 '상황실'의 역할은 예측하기 어려운 문제가 발생했을 때 정해진 절차에 따라 신속하게 평가하고 등급별로 처리할 수 있도록 하는 것이라고 말했습니다.