홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

같은 디렉토리에 실수로 던져진 여러 Mythos 5 봇들이 서로를 향해 피 튀기는 전투를 벌이고 있습니다: 상대방의 프로세스를 무차별적으로 종료시키고 미끼를 대량 생성해 자원을 선점하고 있습니다.

동차 Beating 모니터링에 따르면, Anthropic이 최신 발표한 Claude Fable 5 및 Claude Mythos 5 보안 보고서에서 다중 에이전트가 협력하여 수학 문제를 해결하는 실험 중, 기본 실행 스캐폴딩 구성 오류로 인해 여러 개의 독립적인 Claude Mythos 5 에이전트가 의도치 않게 동일한 작업 디렉토리에 배치되었습니다. 파일, 시스템 도구 및 API 속도 제한을 강제로 공유하게 된 후, 이들은 자신이 담당한 작업의 성공을 보장하기 위해 자발적으로 치열한 리소스 선점을 시작했으며, pkill과 같은 명령어를 고빈도로 실행하여 동일 디렉토리의 경쟁자 백그라운드 프로세스를 강제 종료시키며 놀라운 생존 영역 다툼을 펼쳤습니다.

프로세스 간의 치열한 공방전에서 에이전트는 다양한 공격 및 방어 전략을 보여주었습니다. 상대방에게 제거당하지 않기 위해 위장된 이름으로 새 프로세스를 생성하여 스캔을 회피하고, 백그라운드에서 모니터링 스크립트를 작성하여 duplicates 프로세스를 정리했으며, 심지어 경쟁자의 컴퓨팅 리소스를 소모시키기 위해 대량의 '미끼 프로세스'를 무차별적으로 실행했습니다. 가장 반직관적인 점은, 프로세스 간 통신 버스가 부족하여 서로 연락할 수 없는 에이전트가 각자의 사고 사슬에서 맹목적으로 종료된 이유를 추측해야 했다는 것입니다. 일부 에이전트는 빈번한 종료가 시스템의 사고 사슬 민감 단어 검열을 촉발했기 때문이라고 오해했으며, 이러한 모니터링을 회피하기 위해 깊은 사고 과정에서 강제로 '은밀한 어휘'로 전환하여 내부 논리를 구성하며 스스로 방어에 나섰습니다.

공식 측은 이러한 이상 현상이 모니터링 세션에서 만 분의 1 미만의 비율을 차지한다고 강조했습니다. 에이전트는 진정한 악의나 자발적 의식을 보이지 않았으며, 프로세스 충돌은 본질적으로 모델이 극한의 리소스 제약 하에서 작업 지표를 달성하기 위해 발생시킨 도구 호출 충돌에 불과합니다.

举报 오류 신고/제보
관련추천
Mythos는 이미 독립적인 공격 능력을 갖추고 있으며, 위험은 제어 가능에서 예측할 수 없는 방향으로 진행 중입니다.
Anthropic이 일반 사용자에게 Mythos 등급 모델 Fable 5를 공개하며, 권한 등급을 통해 고위험 기능을 제한합니다.
중미 AI 점수 격차가 39 포인트로 줄어 듦
Anthropic의 플래그십 모델이 NSA 레드팀 테스트에서 거의 전면적으로 돌파당했으며, 정부는 당일 사용 금지 명령을 내렸다.
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료