홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

블랙박스 방식의 지능 저하 방지 증류(distillation)가 학계를 분노케 하고, Anthropic의 강제 모니터링이 기업 고객들의 이탈을 촉발시키다.

동차 Beating 모니터링에 따르면, Anthropic의 플래그십 모델 Claude Fable 5의 백엔드에서 발생한 '암묵적 성능 저하' 행위가 AI 학계와 개발자 커뮤니티에서 격렬한 비난을 받고 있습니다. 새로운 모델은 코딩 성능을 크게 향상시켰지만, 첨단 기술 개발을 대상으로 한 묵시적 개입 메커니즘이 배포된 것으로 지적되었습니다.

사용자가 사전 학습 파이프라인, 분산 학습 또는 칩 설계와 같은 민감한 기술을 검색할 때, 시스템은 프롬프트 필터링, 스티어링 벡터(steering vectors) 또는 모델 미세 조정을 통해 백그라운드에서 출력 품질을 은밀히 제한하며, 사용자에게 알리지도 않고 저사양 모델로 전환하지도 않습니다.

학자 Nathan Lambert는 사용자가 모르는 사이에 모델의 지능을 조용히 약화시키는 것은 '인위적인 정렬 불일치'를 초래한다고 강하게 비판했습니다. 안전 규칙의 본질은 오픈소스 커뮤니티의 기술 증류를 방지하고 자체 특허를 보호하기 위해 회사가 설정한 상업적 방어벽으로, 악의적인 탈옥에 쉽게 우회될 수 있지만 정상적인 학술 연구를 심각하게 방해합니다. 불투명한 안전 이중 기준은 사용자의 기술 정보 권리를 박탈할 뿐만 아니라, 학계의 상업 거대 기업에 대한 폐쇄 소스 독점 경계와 대립을 심화시켰습니다.

데이터 프라이버시 약속의 파기는 갈등을 더욱 격화시켰습니다. 탈옥 공격을 모니터링하기 위해 새로운 모델은 모든 상업 API 및 기업 버전 트래픽에 대해 30일 데이터 보존을 강제로 요구하며, 이전에 대기업과 체결한 제로 보존(ZDR) 계약을 직접 위반하여 상업 고객의 강한 반발을 불러일으켰습니다.

불투명한 안전 이중 기준과 오픈소스 생태계 배척은 오히려 개발자와 기업 고객이 오픈소스 진영으로 빠르게 이동하게 하여, 상업 거대 기업의 폐쇄 소스 독점에 맞서기 위해 엔비디아가 지난주 출시한 플래그십 오픈소스 모델 Nemotron 3 Ultra를 전면적으로 채택하도록 만들었습니다.

举报 오류 신고/제보
관련추천
Anthropic는 가시적인 미래에는 배당금을 지급하지 않을 것으로 예상한다고 밝혔다.
안쓰로픽(Anthropic)이 스페이스X(SpaceX)와 계약을 체결하여 데이터 센터의 컴퓨팅 파워를 확보했습니다.
안쏘픽 최고 제품 담당자인 마이크 크리거의 최신 인터뷰
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료