동차 Beating 모니터링에 따르면, Anthropic이 Claude Opus 5 시스템 카드에서 해당 모델이 브라우저 에이전트 환경에서 프롬프트 인젝션 공격에 거의 면역 수준을 보이며, 129개 테스트 시나리오 중 단 하나도 뚫리지 않았다고 공개했습니다. 이 돌파구는 큰 의미를 지닙니다. OpenAI는 작년 12월 프롬프트 인젝션이 영원히 완전히 해결되지 않을 수도 있다고 공개적으로 인정한 바 있습니다. 보안 회사 Gray Swan의 일반 프롬프트 인젝션 벤치마크 테스트에서 Opus 5는 15회 공격 후 성공률이 2.0%에 불과해, 전작 Opus 4.8의 5.5%보다 크게 개선되었으며, Mythos 5의 2.6%와 Fable 5의 2.8%보다도 앞서는 성과를 보였습니다.
프롬프트 인젝션은 AI 에이전트가 직면한 가장 심각한 보안 취약점으로 간주됩니다. 공격자는 웹페이지에 숨겨진 텍스트 등 조작된 입력을 삽입하여 모델 명령을 우회하고 악의적인 작업을 실행합니다. 제로 공격률은 Auto Mode가 활성화된 Claude Cowork와 같은 제품에서만 달성되었습니다. 이 성과는 AI 에이전트 보안이 '지속적인 패치' 단계에서 '구조적 방어' 단계로 진입했음을 의미합니다.
아래 원문 링크를 클릭하여 동차 Beating · Feishu AI 뉴스 채널에 가입하면, 7×24시간 중단 없이 글로벌 AI 핫이슈와 뉴스를 모니터링할 수 있습니다.
