동찰 Beating AI 속보, Thinking Machines가 방금 오픈소스로 공개한 Inkling 2 Small은 5940억 개의 파라미터를 보유하고 있으며, 실행하려면 최소 500GB의 VRAM이 필요합니다. 많은 개발자들이 너무 크다고 불평하자 Thinking Machines는 더 작은 Inkling 2 Mini를 출시했는데, 총 파라미터가 264억 개로 줄었고 Token 생성 시마다 34억 개의 서로 다른 파라미터가 활성화되어 마침내 일반 노트북에서도 실행할 수 있게 되었습니다.
Mini는 GPT-6 Astra와 동일한 순환 Transformer 아키텍처를 채택했습니다. 모델은 24개 층의 네트워크만 가지고 있지만, 중간 12개 층이 3번 반복 실행됩니다. 즉, Token을 하나 생성할 때마다 48개 층의 계산을 거치지만 24개 층의 가중치만 저장하면 됩니다. 동일한 파라미터 그룹을 반복 사용함으로써 모델의 부피를 계속 키우지 않고도 더 복잡한 추론을 수행할 수 있습니다.
Artificial Analysis 종합 점수는 20.1점으로 Qwen3.8-27B와 동일하지만, 개별 평가 비용은 후자의 약 6분의 1, 소요 시간은 약 4분의 1입니다. Thinking Machines가 공개한 테스트 결과에 따르면 DeepSWE v1.1 프로그래밍 작업 통과율은 48.2%로 Qwen의 42.2%를 초과했지만, AutomationBench-AA 사무 자동화 작업 테스트에서는 41.8%를 기록해 여전히 Qwen의 48.2%보다 낮습니다.
순환 아키텍처는 한 가지 문제도 가져옵니다. 모델이 내부적으로 더 많은 추론을 완료할 수 있어 모든 사고 단계를 글로 쓸 필요가 없으므로, 외부에서 그 추론 과정을 검사하기가 더 어려워질 수 있습니다. Thinking Machines는 순환 횟수를 조정할 수 있는 연구 모델을专门 훈련했습니다. 실험 결과 순환 횟수가 많을수록 모델이 텍스트 추론에 의존하지 않고 완료할 수 있는 작업이 더 복잡해졌지만, 아직 사고 사슬의 모니터링 가능성이 현저히 저하되는 것은 발견되지 않았습니다.
Inkling 2 Mini는 전체 가중치가 공개되었으며 Apache 2.0 라이선스를 채택했습니다. 공식 버전은 약 20GB로 32GB 메모리의 Mac에서 오프라인 실행이 가능합니다. Unsloth도 저비트 양자화 버전을 출시하여 16GB 메모리 기기에서도 실행할 수 있습니다.
