동찰 Beating AI 속보, OpenAI가 GPT-6.2 Astra와 Sol의 숨겨진 사고 사슬에 잠금 장치를 걸기 시작했으며, 다른 모델이 API를 통해 추론 과정을 훔쳐 자사 모델 훈련에 사용하는 것을 방지한다. 이 메커니즘은 Anthropic이 앞서 선보인 증류 방지 조치와 매우 유사하다.
10월 말, 《The Information》은 소식통을 인용해 DeepSeek와 월지암면이 새 모델을 훈련할 때 GPT-6 Astra의 출력을 대량으로 사용했다고 보도했다. 앞서 중국 AI 기업들은 Claude를 대량으로 증류했으나, Anthropic이 차단을 계속 강화하자 일부 업체가 목표를 OpenAI로 돌린 것이다.
증류란 한 모델이 더 강력한 모델의 출력을 학습해 낮은 비용으로 유사한 능력을 얻는 것이다. 완전한 사고 사슬을 확보할 수 있다면 모델이 문제를 어떻게 분해하고 단계적으로 답을 도출하는지까지 배울 수 있어 최종 답만 보는 것보다 더 가치 있다.
Anthropic은 올해 6월 이미 Claude의 암호화된 사고 사슬에 '컨텍스트 잠금'을 적용했다. OpenAI도 이제 유사한 메커니즘을 채택해, 다중 턴 대화에서 각 추론을 이를 생성하기 이전의 역사 메시지와 바인딩한다. 개발자가 이전 프롬프트, 도구 구성 또는 대화 내용을 수정하면 API가 변경 위치 이후의 추론 항목을 폐기할 수 있어, 공격자가 컨텍스트를 변조해 모델의 내부 사고를 유출하도록 유도하는 것을 방지한다.
OpenAI가 공개한 자체 테스트 결과에 따르면, 이전 라운드의 숨겨진 추론을 추출하려는 공격에서 GPT-6 Astra의 평균 공격 성공률은 54%에 달했으나, GPT-6.2 Astra는 0.2%, Sol은 0.5%로 떨어졌다.
일반 개발자도 영향을 받는다. 이전 메시지를 수정하거나 채팅 기록을 압축하면 Agent가 이전 추론 결과를 잃어 Token 소모와 응답 지연이 증가할 수 있다. 따라서 OpenAI는 원본 대화 기록을 최대한 보존하고 공식 제공 컨텍스트 압축 인터페이스를 사용할 것을 권장한다.