동찰 Beating AI 속보, 샤오미 MiMo 책임자 뤄푸리는 MiMo-V2.6 출시 후 이번 강화 학습에 대해 추가로 설명했다. 그녀는 자신이 DeepSeek R1에 참여한 적이 있으며, MiMo-V2.6背后的 연구 혁신과 엔지니어링 과제는 그녀가 보기에 이미 R1을 넘어섰다고 밝혔다.
그녀는 또한 MiMo가 왜 MixRL과 MOPD를 동시에 사용하는지 설명했다. MixRL은 코드, 범용 Agent, 비전, 사이버 보안 등 검증 가능한 작업을 같은 강화 학습 라운드에 섞어 함께 훈련하는 것이고, MOPD는 초장문, 검증이 어렵거나 보상이 비교적 주관적인 작업을 처리하는 역할로, 먼저 개별 훈련한 후 이러한 능력을 다시 메인 모델에 통합한다.
게임, 3D 같은 작업은 한 번 실행 시간이 너무 길고 자동으로 정오를 판단하기 어렵다. 코드 등 작업과 같은 RL 라운드에 넣으면 훈련이 현저히 느려진다. MiMo는 따라서 이러한 작업을 개별 훈련하고, MOPD를 통해 학습된 능력을 메인 모델에 다시 합친다.
