开源引擎 Inco Splash 让 Qwen3.8-27B 在 M5 Max 跑出 144 tok/s
ResearchCrafty1804 · reddit · 2026-09-19
开源推理引擎 Inco Splash 针对 Apple Silicon 定制,宣称 Qwen3.8-27B 在 M5 Max MacBook Pro 上达 144 tok/s:解码速度约为 Ollama 的 3 倍、oMLX 的 2 倍,agent 扇出子 agent 时接近 4 倍。要求 M3 及以上芯片、macOS 26.4+、36GB 内存。一行 brew install + splash serve 即可部署,兼容 Claude Code、OpenCode、Codex 等 agent,也可在 LM Studio 中作为 runtime 使用。
所属事件:Inco 开源推理引擎 Splash:Apple Silicon 上 Qwen 27B 跑出 144 tok/s(5 条相关)→
「编程与Agent」频道最新
- 额度重置夜:Codex 恢复 100%,Claude 仅剩 10% — rudrank · 2026-11-04
- 自我改进软件不可避免:让应用读取自身信号并自动修复 — bibryam · 2026-11-04
- 攒 7 卡 132GB 显存本地推理机:EPYC 整合还是双平台? — infectiousstupidity · 2026-11-04
- 50 人 12 国团队:创始人自称与 AI Agent 沟通多过与同事 — Scobleizer · 2026-11-04
- 极简 agent 框架 Pi 发布:四种模式可扩展,附音乐软件语音操控案例 — solyarisoftware · 2026-11-04
- Karpathy 拥抱 AI 引热议:坚持手写代码的开发者恐先被淘汰 — CtrlAltDwayne · 2026-11-04