DiffuSpace는 Qwen3.6을 확산 모델로 변경하여 GB300 단일 카드에서 680 Token/s를 달성했다

동찰 Beating AI 속보, 홍콩대학교 교수 쿵링펑이 창업한 확산지능(DiffuSpace)이 Clover-35B-A3B-Preview를 발표하고 오픈소스로 공개했다.

모델은 알리바바 Qwen3.6-35B-A3B를 기반으로 개조되었으며, 총 파라미터는 350억 개이고 추론 시 약 30억 개의 파라미터가 활성화된다.

전통적인 대형 모델은 일반적으로 왼쪽에서 오른쪽으로 토큰을 하나씩 생성하지만, Clover는 블록 확산을 채택하여 한 번에 짧은 텍스트 구간을 생성한 후 병렬 예측과 반복 수정을 통해 출력을 완성한다. 팀은 또한 Gated DeltaNet을 개조하여 과거 정보를 압축 저장함과 동시에 현재 텍스트 블록 내 토큰의 양방향 상호작용을 가능하게 하여 생성 속도와 문맥 이해를 모두 고려했다.

공식 발표된 6개 Agent 평가에서 Clover는 모두 제시된 모델 중 최고 점수를 획득했다. SWE-bench Verified는 73.6%, Terminal-Bench 2.1은 51.7%에 도달하여 원본 Qwen3.6-35B-A3B는 물론 LLaDA2.2 Flash, Mercury 2.5 등 확산 모델을 초과했다. 다만 비교 목록에는 10월 19일 발표된 Mercury 3가 포함되지 않았다.

속도 측면에서 Clover는 단일 NVIDIA GB300에서 BF16 정밀도, 단일 동시 실행으로 내부 Agent 작업을 수행할 때 생성 속도가 680 Token/s에 달한다. H200에서는 515 Token/s에 도달하여 DFlash2 가속을 사용한 동일 규모 Qwen 모델(365 Token/s)을 초과했다. 팀은 또한 INT4 양자화 버전을 16GB VRAM만 갖춘 RTX 5070 Ti에 배포하여 MATH-500 테스트 속도가 101.8 Token/s에 달했다.