영국 금융 감독 기관이 긴급하게 Anthropoc의 최신 AI 모델 리스크를 평가합니다.

1M AI News 모니터링에 따르면, 영국 금융 감독 기관은 Anthropic의 최신 AI 모델 위험을 긴급히 평가했습니다. Anthropic은 4월 7일 최신 모델인 Claude Mythos Preview가 회사의 역사상 가장 강력한 AI라고 발표했지만 내부 테스트에서이 모델은 매우 강력한 네트워크 보안 기능을 나타냈습니다. 수천 개의 심각한 취약점을 발견하고 중간 복잡성의 해커 행위(예: 미인가된 인터넷 액세스, 이메일 보내기 및 정보 공개)를 성공적으로 수행했습니다. 따라서 Anthropic은 모델이 너무 위험하다고 판단하여 공개적으로 발표하지 않기로 결정했고, "Project Glasswing" 프로젝트를 통해 Apple, Google, Microsoft, Amazon, JPMorgan Chase 등을 포함한 40개의 창립 파트너만 사용하도록 하고 사용 한도를 제한했습니다.

이 기구는 Anthropic이 '안전 우선' 브랜드 이미지를 강화하는 전략으로 간주되었으며 동시에 시장 반응을 불러일으켰습니다. 네트워크 보안 주식이 하락했고 미국 재무 장관인 Scott Bessent는 신속하게 월가 리더들을 소집하여 금융 시스템 위험에 대한 논의를 시작했으며 영국 중앙은행은 은행 및 보험사와의 회의를 준비하면서 잠재적 위협을 평가하려고 합니다. 현재 전문가들은 이에 대해 의견이 분분합니다. 일부는 안전 우려가 실제임을 인정하고 있지만 이번 조치가 일부는 공공 관계 활동의 일환이라고 논의하며, 모델 공개에 대해 개인 기업이 아닌 독립 민주 기관이 결정해야 한다고 촉구하고 있습니다.