동찰 Beating AI 속보, 한국 게임 대기업 KRAFTON이 Raon-1 mini 프리뷰 버전을 발표했습니다. 이는 처음부터 학습된 MoE 언어 모델로, 총 파라미터 수는 약 288억 개이며 추론 시每次 43억 개만 활성화되고, 한국어 대화, 프로그래밍 및 Agent 능력에 중점을 두어 최적화되었으며, 26만 Token 컨텍스트를 지원합니다.
처음부터 학습되었지만, 기반 기술에는 중국 제조사의 흔적도 있습니다. 혼합 어텐션 아키텍처를 채택하여 25개 레이어 중 18개 레이어가 Kimi Delta Attention에서 개선된 선형 어텐션 메커니즘을 사용합니다. 또한 팀은 DeepSeek의 mHC 초연결 기술을 간소화하여 학습 컴퓨팅 오버헤드를 줄였습니다.
KRAFTON이 공개한 테스트에 따르면, Raon-1 mini는 SWE-Verified 코드 수정 테스트에서 70.8%를 기록하여 Qwen3.6-35B-A3B의 63.2%를 초과하고 Meta Muse Glimmer의 72.0%에 근접했습니다. 그러나 Terminal-Bench Lite 터미널 조작 테스트에서는 47.0%에 그쳐 Qwen3.6-35B-A3B의 63.3%와 Muse Glimmer의 70.7%에明显 뒤처졌습니다. 지시 준수 테스트 IFBench에서는 84.2%를 달성하여上述 두 모델보다 높았습니다.
모델 가중치는 Apache 2.0 라이선스에 따라 공개되었으며, GGUF, MLX 등의 버전을 제공하여 Mac 로컬 실행을 지원합니다. NVFP4 양자화 버전은 단일 RTX 5090에 배포할 수 있습니다. 팀은 또한 DFlash2 추측 디코딩 모델을 제공하며, 단일 NVIDIA B300 테스트에서 일반 디코딩 대비 최대 2.18배의 출력 처리량 향상을 보였습니다.