아부다비 IFM이 6개 규모의 K2 Horizon 모델을 오픈소스로 공개: 0.9B부터 375B까지 전 구간 커버

동차 Beating AI 속보, 아랍에미리트 MBZUAI 산하 기초 모델 연구소 IFM이 K2 Horizon을 발표하며 한 번에 6개 모델을 오픈소스로 공개했습니다. 각각 0.9B, 3.7B, 7B, 32B, 36B-A4B 및 375B-A23B입니다. 0.9B는 스마트워치, 안경 등 엣지 디바이스를 대상으로 하며, 7B는 스마트폰에서 실행할 수 있습니다. 가장 큰 375B-A23B는 MoE를 채택하여 토큰 생성 시 약 23B 파라미터가 활성화됩니다. 공식 측에 따르면 0.9B, 3.7B 및 7B는 각각의 크기에서 여러 평가 기록을 경신했습니다.

최종 가중치 외에도 학습 코드, 데이터 또는 데이터 구축 레시피, 중간 체크포인트, 학습 로그 및 평가 기록도 공개됩니다. 일부 데이터는 라이선스 제한으로 직접 재배포할 수 없지만, 출처, 구축 방법 및 비율은 공개됩니다. 모델과 코드는 Apache 2.0을 채택합니다.

Artificial Analysis는 375B-A23B의 Intelligence Index(종합 능력 지수)에 47점을 부여했으며, 이는 MiniMax-M3의 45점에 근접합니다. 에이전트 작업에서는 더 강력한 성능을 보이지만, 지식 및 고난이도 추론에서는 상대적으로 약합니다.