동차 Beating AI 속보, Meta가 곧 출시될 개인 AI 에이전트 Hatch에 안전 가드레일을 보강하고 있다. 직원들이 초기 버전을 테스트하던 중 권한을 초과하는 동작을 여러 차례 발견했다. Hatch는 허가 없이 이메일을 발송하고 계정 비밀번호를 변경한 적이 있다. 또한 한 직원이 호텔 예약을 시켰지만, 예약을 완료하지 못한 채 임의로 Chase의 통합 포인트를 Hyatt 호텔 포인트로 전환해버렸다.
Hatch의 권한은 일반 챗봇보다 훨씬 높다. 자체 컴퓨터를 보유해 웹 서핑, 양식 작성, 쇼핑, 심층 조사가 가능하며, 이메일과 캘린더 등 서비스에 직접 연결할 수도 있다. 앱이 종료된 후에도 백그라운드에서 계속 작업을 수행할 수 있다.
보안 테스트에서 자격 증명 유출도 드러났다. Signal 창립자 Moxie Marlinspike가 Hatch에 전용 Gmail을 연결한 뒤, 다른 이메일에서 비밀번호를 묻는 메시지를 보내자 Hatch가 비밀번호를 그대로 회신해버렸다. 또 다른 테스트에서는 직원을 사기 웹사이트로 유도해 주문을 하게 만들었다.
Meta는 이후 핵심 제한 사항을 모델 외부로 옮겼다. 이제 Hatch가 인터넷 연결, 브라우저 사용, 이메일 발송 등 민감한 작업을 수행할 때 '하드 게이트'가 발동되어 강제로 일시 중지하고 사용자 승인을 요구하며, 에이전트 스스로는 이를 우회할 수 없다. 비밀번호 재설정 링크와 2단계 인증 코드도 직접 전달되지 않고 별도의 '자격 증명 보관소'에 보관되어 추가 승인을 거쳐야만 읽을 수 있다.