홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

Kimi K3가 Mac에서 로컬로 실행될 수 있게 되었지만, 일반 사용자는 여전히 실행하기 어렵습니다.

동차 Beating 모니터링에 따르면, 오픈소스 AI 도구 회사 Unsloth가 Kimi K3의 1-bit GGUF 버전을 출시하여 모델을 1.56TB에서 594GB로 압축했습니다. 사용자는 Unsloth Studio 또는 llama.cpp를 통해 Mac에서 로컬로 실행할 수 있습니다.

하지만 이 버전은 최소 약 610GB의 메모리가 필요합니다. 공식 솔루션에 따르면, 최고 사양 512GB Mac Studio는 128GB 메모리 장치와 함께 사용해야 합니다. 메모리가 부족할 경우 하드 디스크를 이용해 간신히 로딩할 수 있지만 속도가 크게 저하됩니다.

커뮤니티에는 350GB 및 451GB의 MLX 축소 버전도 있어 단일 512GB Mac Studio에 설치할 수 있습니다. 하지만 이들은 73%에서 80%의 전문가를 삭제했으며, 실제 속도는 약 0.14~0.20 token/s로 성능도 현저히 떨어집니다.

举报 오류 신고/제보
관련추천
외국인이 소련 위성이 발사된 그날보다 더 충격적이라고 말했어요.
씨티그룹과 뱅크오브아메리카 증권은 Kimi K3가 추론 비용을 낮추지만, '제번스 역설'을 통해 더 많은 호출, 긴 컨텍스트 및 에이전트 작업을 자극하여 GPU, HBM, DDR5, eSSD 및 네트워크 인프라 수요를 증가시킬 수 있다고 분석했다.
저렴한 오픈 웨이트 모델이 다시 한번 AI 가치 평가 서사를 뒤흔들다
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료