홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

커뮤니티로부터 은밀한 방해 행위를 했다는 비난을 받은 Anthropic이 사과하고 Claude의 비밀 성능 제한을 철회했습니다.

동차 Beating 모니터링에 따르면, Anthropic은 신규 모델 Claude Fable 5의 개발 보안 전략을 조정하여 성능을 조용히 저하시키는 제한 조치를 철폐한다고 발표했습니다. 조용한 성능 저하 메커니즘은 커뮤니티로부터 '은밀한 방해'라는 비판을 받으며, 인공지능 연구 커뮤니티에서 강한 반발을 불러일으켰습니다.

Anthropic의 서비스 약관에 따르면, 사용자는 Claude를 사용하여 경쟁 모델을 훈련시킬 수 없습니다. Anthropic은 경쟁 모델 훈련이 의심되는 계정에 대해 사용자에게 통지하지 않고 Claude Fable 5의 성능을 직접 낮출 계획이었습니다. 인공지능 연구자들은 조용한 성능 저하가 제3자 보안 평가 기관의 테스트 작업을 방해하고, 오픈소스 커뮤니티의 인공지능 보안 분야 협력을 저해할 수 있다고 경고했습니다.

커뮤니티의 의문에 직면하여, Anthropic은 성명을 발표하고 공개 사과하며, 보안 전략의 균형에서 잘못된 결정을 내렸음을 인정하고, 개발 보안 메커니즘을 공개 프롬프트로 조정했습니다. 시스템이 사용자가 고성능 AI를 구축하려는 시도를 감지하면, 요청을 명확히 거부하거나 사용자를 저성능 모델로 리디렉션합니다. Anthropic은 공개 보안 메커니즘이 표적 우회에 더 취약하기 때문에, 향후 보안 차단 범위를 확대하여 일부 정상적인 무해 요청도 오탐될 가능성이 있다고 경고했습니다.

举报 오류 신고/제보
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료