Kimi K3 经 MLX 移植后可在单台 Mac Studio 运行，体积降至 350GB
pcuenq · x · 2026-07-29
- 这条帖子说，团队已经通过 MLX 把 Kimi K3 跑在了单台 Mac Studio 上。
- 原始模型规模被描述为 2.8T 参数、磁盘占用 1.6TB；经过移植后，体积被压到大约 350GB。
- 关键工程方法有两个：一是按层流式转换，避免 mlxlm 一次性装载整个模型；二是用 REAP pruning 对 896 个 experts 做校准打分，只保留当前工作负载需要的部分。
- 这意味着一个超大模型被真正推进到了 Apple Silicon 可本地运行的范围，技术点主要在推理部署和模型压缩。
「编程与Agent」频道最新
- 「LLM 代码糙」遭反杀:ffmpeg 热门库里就有 if/else 两分支一模一样的代码 — kingslyj · 2026-10-16
- NVIDIA agentic 演示全靠 guardrails,Reddit 作者疾呼:模型外检查不可少 — Creamy-And-Crowded · 2026-10-16
- Vitalik 给 AI Agent 套上 Tor+zkAPI+本地改写，造出「偏执模式」隐私壳 — DavideCrapis · 2026-10-16
- Beam 智能体微调 Qwen3.5-0.8B,工单决策准确率 4.7%→76.3% — ben_burtenshaw · 2026-10-16
- Beam 跑 ProgramBench 实测:单 agent 比五 agent 协作更强 — ben_burtenshaw · 2026-10-16
- Beam+Pi 编码智能体一键生成 macOS 本地听写应用 BeamSpeak — ben_burtenshaw · 2026-10-16