Moonshot Kimi K3 量化后可本地运行，594GB 保留 78.9% 精度
danielhanchen · x · 2026-07-29
Moonshot 的 Kimi K3 现在可以通过 Unsloth 的量化版本本地运行了。
- 这是一个 2.8T 参数、104B active 的开权重模型，具备原生视觉能力和 100 万 token 上下文窗口。
- Unsloth 给出的 dynamic 1-bit 版本体积从 1.56 TB 压到 594 GB，同时保留约 78.9% top-1 accuracy。
- dynamic 2-bit 版本可达到约 90% accuracy，体积为 861.3 GB。
- 文档给出了详细硬件需求，并说明可通过 Unsloth Studio 或 llama.cpp 运行，目标机器包括 Mac Studio + 128GB RAM 级别配置。
所属事件:Unsloth 发布 Kimi K3 量化版，1-bit 压缩至 594GB 保留近 80% 精度(6 条相关)→
「编程与Agent」频道最新
- 「LLM 代码糙」遭反杀:ffmpeg 热门库里就有 if/else 两分支一模一样的代码 — kingslyj · 2026-10-16
- NVIDIA agentic 演示全靠 guardrails,Reddit 作者疾呼:模型外检查不可少 — Creamy-And-Crowded · 2026-10-16
- Vitalik 给 AI Agent 套上 Tor+zkAPI+本地改写，造出「偏执模式」隐私壳 — DavideCrapis · 2026-10-16
- Beam 智能体微调 Qwen3.5-0.8B,工单决策准确率 4.7%→76.3% — ben_burtenshaw · 2026-10-16
- Beam 跑 ProgramBench 实测:单 agent 比五 agent 协作更强 — ben_burtenshaw · 2026-10-16
- Beam+Pi 编码智能体一键生成 macOS 本地听写应用 BeamSpeak — ben_burtenshaw · 2026-10-16