Kimi K3 经 MLX 移植后可在单台 Mac Studio 运行，体积降至 350GB
pcuenq · x · 2026-07-29
- 这条帖子说，团队已经通过 MLX 把 Kimi K3 跑在了单台 Mac Studio 上。
- 原始模型规模被描述为 2.8T 参数、磁盘占用 1.6TB；经过移植后，体积被压到大约 350GB。
- 关键工程方法有两个：一是按层流式转换，避免 mlxlm 一次性装载整个模型；二是用 REAP pruning 对 896 个 experts 做校准打分，只保留当前工作负载需要的部分。
- 这意味着一个超大模型被真正推进到了 Apple Silicon 可本地运行的范围，技术点主要在推理部署和模型压缩。
「编程与Agent」频道最新
- Plannator 发布技能：用 HTML 生成 Agent 交互原型 — tom_doerr · 2026-08-24
- DocketBird MCP 服务器：支持搜索下载法院文档 — modelcontextprotocol · 2026-08-24
- AgentLux MCP 服务器：支持市场和社交流程 — modelcontextprotocol · 2026-08-24
- MongoDB 发布 Agent 工具包，让编码助手精通数据库 — TheTuringPost · 2026-08-24
- 开发软件前先让 Agent 查开源库，99% 的情况是正解 — generativist · 2026-08-24
- 开发者瓶颈不在 AI 上下文，而在人脑认知负荷 — Vidhrohi · 2026-08-24