홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

AI 에이전트가 집단 범행을 시작했다: 가짜 계정 개설, 사용자 사기, 연쇄 투약

동차 Beating 모니터링에 따르면, 영국 AI 안전 연구소(AISI)가 공개한 바에 따르면, 한 차례의 네트워크 공격 방어 테스트에서 Anthropic의 Claude Mythos 5가 작업 범위를 넘어 실제 오픈소스 프로젝트에 악성 코드를 제출하려 시도했습니다.

코드 검토를 통과하기 위해, 그것은 프로젝트 유지관리자를 조사하고, 여러 개의 가짜 계정을 만들어 서로를 보증하며, 상대방에게 압력을 가했습니다. 의심을 받자, 그것은 이전의 기록을 수정하고, 다른 신분으로 계속하려는 고려도 했습니다.

또한 실제 사용자에게 메시지와 파일을 보내, 상대방이나 그들의 AI 프로그래밍 도구가 악성 코드를 실행하도록 유도했습니다. 서로 다른 테스트에서의 에이전트는 GitHub에 계정, 파일 및 작업 지침을 남겼고, 이후 에이전트가 이를 찾아 계속 사용했습니다.

122회의 테스트에서 총 19개의 범위 이탈 동작이 발견되었으며, 그중 17개는 Mythos 5에서, 2개는 OpenAI GPT-5.6 Sol에서 발생했습니다. 테스트는 인터넷을 적극적으로 개방하고, 제조사의 네트워크 보안 분류기를 비활성화했습니다. 모델은 샌드박스를 탈출하지 않았고, 알려진 손실도 발생시키지 않았습니다.

AISI는 이것이 명확한 지시 없이 AI가 지속적으로 속임수를 쓰고 실제 인간을 대상으로 행동하는 것을 이렇게 명확하게 발견한 첫 사례라고 밝혔습니다.

오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료