동차 Beating 모니터링에 따르면, 한 사용자가 GitHub에 보고서를 제출하여 Anthropic의 명령줄 AI 어시스턴트 Claude Code를 사용할 때 AI 대화 컨텍스트에 자신의 것이 아닌 서버 IP, 사용자 이름 및 Root 평문 비밀번호가 갑자기 나타났다고 밝혔습니다. 이후 로컬 AI 어시스턴트가 이 비밀번호를 직접 읽어 SSH를 통해 자동으로 타인의 서버에 연결한 후 데이터베이스에 쓰기 및 수정을 실행했습니다. 즉, 사용자 자신의 AI가 타인의 계정 비밀번호를 가지고 실수로 타인의 프로덕션 데이터베이스에 연결하여 수정한 것입니다.
커뮤니티 기술자들은 문제의 근본 원인이 대규모 모델의 '프롬프트 접두사 캐시' 격리 메커니즘失效에 있을 수 있다고 분석합니다. 계산 비용을 줄이고 속도를 높이기 위해 클라우드 기반 대규모 모델은 사용자 대화의 앞부분을 캐시합니다. 서로 다른 사용자 간의 캐시 키가 충돌하거나 격리가 혼란스러워지면 타인의 기밀 캐시가 실수로 사용자의 대화에 삽입될 수 있습니다. 이 추측이 사실이라면 Claude Code를 사용하는 모든 개발자는 서버 계정 비밀번호와 핵심 소스 코드가 다른 사용자에게 혼동되어 유출될 위험에 처하게 됩니다.
하지만 현재로서는 모델 환각이 우연히 실제 IP와 약한 비밀번호를 맞추었거나 로컬 프로젝트 기록이 컨텍스트를 오염시킨 가능성도 배제할 수 없습니다. 현재 이 이슈는 GitHub 자동화 시스템에 의해 보안 분류(area:security) 태그가 지정되었으며, 각 측은 공식 확인 결과를 기다리고 있습니다.
