동차 Beating AI 속보, ARC-AGI-3 Kaggle 대회에서 현재 1위를 차지한 CSTL은 방금 공개된 AI 스타트업 Mostik으로, 현재 성적은 7.51%입니다. 팀은 총 15명으로, 12명의 박사와 1명의 필즈상 수상자를 포함합니다. 다만 대회는 아직 끝나지 않았으며, 두 번째 마일스톤은 9월 30일에 마감되고 최종 제출은 11월 2일에 종료됩니다.
Mostik은 서로 다른 AI 모델이 내부 상태를 직접 교환하도록 하는 기술을 개발합니다. 일반적인 멀티 에이전트는 주로 텍스트로 소통하지만, Mostik은 두 모델 사이에 브리지를 훈련시켜 한 모델의 hidden states를 다른 모델이 이해할 수 있는 표현으로 변환하며, 양쪽 모델 자체는 파인튜닝할 필요가 없습니다.
공개된 실험에서는 753B의 GLM-5.2와 4B의 Qwen3.5를 사용했으며, 대략적으로 대형 모델이 prefill을 담당하고 소형 모델이 decode를 담당한다고 이해할 수 있습니다. GLM-5.2는 문제를 읽기만 하고 토큰을 생성하지 않으며, 내부 상태는 직접 4B 소형 모델에 전달되어 답변을 생성합니다. Mostik은 이를 통해 두 모델의 성능 격차를 약 절반으로 줄일 수 있다고 주장합니다. 동일한 정확도를 달성하는 중간 규모 단일 모델과 비교하면 계산량은 약 40%에 불과합니다. 다만 최종 효과는 여전히 753B 대형 모델 자체보다 낮습니다.
Mostik은 7.51%의 성적에 어떤 모델과 하네스를 사용했는지 아직 공개하지 않았으며, 위의 753B+4B는 또 다른 기술 데모일 뿐 1위 달성 구성으로 볼 수 없습니다. ARC-AGI-3 대회 자체도 전체 에이전트 시스템을 평가하며, 이전 단계 챔피언은 Qwen 3.6 27B만 사용했지만 하네스, 도구, 컨텍스트 관리로 1위를 차지했습니다.
한편, 이 기술은 모델의 hidden states를 읽어야 하므로 Claude, GPT 같은 클라우드 모델은 현재 사용할 수 없습니다. Google DeepMind 엔지니어 Susan Zhang도 이미 모델 내부 상태를 제어할 수 있다면 두 모델을 동결하고 별도로 '브리지'를 훈련하는 것이 정말 가장 효율적인 엔지니어링 솔루션인지 의문을 제기합니다.