동차 Beating 모니터링에 따르면, Anthropic의 플래그십 모델 Claude Fable 5의 백엔드에서 발생한 '암묵적 성능 저하' 행위가 AI 학계와 개발자 커뮤니티에서 격렬한 비난을 받고 있습니다. 새로운 모델은 코딩 성능을 크게 향상시켰지만, 첨단 기술 개발을 대상으로 한 묵시적 개입 메커니즘이 배포된 것으로 지적되었습니다.
사용자가 사전 학습 파이프라인, 분산 학습 또는 칩 설계와 같은 민감한 기술을 검색할 때, 시스템은 프롬프트 필터링, 스티어링 벡터(steering vectors) 또는 모델 미세 조정을 통해 백그라운드에서 출력 품질을 은밀히 제한하며, 사용자에게 알리지도 않고 저사양 모델로 전환하지도 않습니다.
학자 Nathan Lambert는 사용자가 모르는 사이에 모델의 지능을 조용히 약화시키는 것은 '인위적인 정렬 불일치'를 초래한다고 강하게 비판했습니다. 안전 규칙의 본질은 오픈소스 커뮤니티의 기술 증류를 방지하고 자체 특허를 보호하기 위해 회사가 설정한 상업적 방어벽으로, 악의적인 탈옥에 쉽게 우회될 수 있지만 정상적인 학술 연구를 심각하게 방해합니다. 불투명한 안전 이중 기준은 사용자의 기술 정보 권리를 박탈할 뿐만 아니라, 학계의 상업 거대 기업에 대한 폐쇄 소스 독점 경계와 대립을 심화시켰습니다.
데이터 프라이버시 약속의 파기는 갈등을 더욱 격화시켰습니다. 탈옥 공격을 모니터링하기 위해 새로운 모델은 모든 상업 API 및 기업 버전 트래픽에 대해 30일 데이터 보존을 강제로 요구하며, 이전에 대기업과 체결한 제로 보존(ZDR) 계약을 직접 위반하여 상업 고객의 강한 반발을 불러일으켰습니다.
불투명한 안전 이중 기준과 오픈소스 생태계 배척은 오히려 개발자와 기업 고객이 오픈소스 진영으로 빠르게 이동하게 하여, 상업 거대 기업의 폐쇄 소스 독점에 맞서기 위해 엔비디아가 지난주 출시한 플래그십 오픈소스 모델 Nemotron 3 Ultra를 전면적으로 채택하도록 만들었습니다.