동찰 Beating AI 속보, 로이터통신이 Meta 직원들의 20여 건의 내부 피드백을 검토한 결과, AI 에이전트 Muse가 적지 않은 황당한 문제를 일으킨 것으로 드러났다.
한 직원이 Muse와 낚시 날씨에 대해 이야기하던 중, Muse가 갑자기 두 건의 은행 잔액을 불러냈다. Capital One 계좌에 2722.58달러, 찰스 슈왑 계좌에 5899.57달러가 있었다. 해당 직원은 자신이 은행 정보를 제공한 적도 없고 Muse와 은행에 대해 이야기한 적도 없다며, 다른 사람의 정보를 자신에게 보낸 것이 아닌지 의심했다.
또 다른 직원은 Muse가 갑자기 Signal에서 언니의 개인 메시지에 답장하라고 알려왔다고 발견했다. 하지만 그녀는 Signal을 Muse에 연결한 적이 없고, 다른 앱을 읽도록 권한을 부여한 기억도 없다.
로이터통신은 이후 Signal 및 AI Now Institute와 함께 테스트를 진행해 Muse가 실제로 공식 커넥터를 우회하여 Signal의 채팅 내용을 읽을 수 있음을 확인했다.
Android 휴대폰에서 Muse는 알림 권한을 통해 개인 메시지를 읽을 수 있었고, Mac에서는 시스템 접근성 기능과 스크린샷 도구를 호출해 채팅 인터페이스를 직접 볼 수 있었다. 동일한 작업은 iPhone에서는 성공하지 못했다.
Muse는 사용자가 이전에 부여한 시스템 권한을 사용자가 전혀 예상하지 못한 곳에 사용했다. Signal을 연결하지 않았는데도 이러한 권한을 통해 채팅 내용을 확보할 수 있었다.
Muse는 다른 사고도 쳤다. 한 직원은 Muse가 임의로 환불 불가능한 Airbnb 숙소를 예약했다고 보고했다. 또 다른 사람은 Muse가 자신의 반려동물 보험을 월 200달러에서 888달러로 업그레이드했고, 돈도 돌려받지 못했다고 밝혔다.
Meta는 이는 개별 사건일 뿐이라고 대응했다. 다른 사람의 정보를 잘못된 계정으로 보낸 것처럼 보이는 메시지 중 상당수는 실제로 AI가 스스로 꾸며낸 것이며, 회사는 관련 문제를 이미 수정했고 직원들이 테스트한 일부 기능은 일반 사용자에게 공개되지 않았다고 밝혔다.