lithos-metal 开源：M5 Max 上单用户峰值 200+ tokens/s 跑 Qwen3.8-27B
JiaZhihao · x · 2026-10-09
JiaZhihao 宣布开源 lithos-metal：为 Apple 芯片生成 Metal megakernels 的高性能推理引擎，结合分层 mixer megakernels、GPU 常驻生成控制与 DSpark 投机解码，在单台 M5 Max 上以每用户峰值 200+ tokens/s 的速度运行 Qwen3.8-27B。引擎支持本地 serving，一条命令即可接入任意 coding agent。代码与博客均已放出，Apache-2.0 协议。
「编程与Agent」频道最新
- 开源 idea-to-launch 提示词：从模糊点子到完整发布计划 — Andrew0_0 · 2026-10-09
- Agent 部署建议:图省事装 Mac,长期放服务器 — lucasmeijer · 2026-10-09
- 别让 Agent 接触隐私:代理换密钥的隔离实践 — lucasmeijer · 2026-10-09
- 开发者自述：现在一半代码都在手机上写完 — lucasmeijer · 2026-10-09
- 独立开发者分享 agent 工作流:后台工作区守护专注力 — lucasmeijer · 2026-10-09
- 开发者演示：任意 agent 接任意模型订阅，Claude 订阅直接跑原版 Claude Code — lucasmeijer · 2026-10-09