MacBook 本地可跑 284B 参数大模型
socialwithaayan · x · 2026-08-26
开发者展示了在 MacBook 上运行大模型的最新进展：DeepSeek-V4-Flash 在 M5 Pro (20GB 内存) 上实现 5.71 tokens/sec 的解码速度，另一个 122B 模型达到 16.53 tps。这得益于名为 Palm-Infra 的技术，它能直接从 SSD 流式传输专家模型，使得 llama.cpp 无法加载的模型成为可能。项目完全开源。
所属事件:腾讯开源 Palm-Infra，MacBook 可本地跑 284B 模型(2 条相关)→
「Infra」频道最新
- Google 公布 9600 芯片 TPU 8t，OpenAI 透露三代芯片路标 — SumitGup · 2026-08-27
- 4090 显卡推理优化实战：延迟降至 10ms 以下 — yacineMTB · 2026-08-27
- Zeno：在 16GB Mac 上跑通 Qwen 35B 的本地 Agent 工具 — close_Meal6005 · 2026-08-27
- 马斯克欲建太空数据中心：无需电网审批，激光互联更极速 — r0ck3t23 · 2026-08-27
- 求助：AMD RX 9060 XT 能否运行 Wan 2.2 和 Minimax H3？ — DOMINI04 · 2026-08-27
- 英伟达财报前瞻：预计单季营收 923 亿美元，四年激增 1278% — ivan_bezdomny · 2026-08-27