Inco Splash 引擎让 Qwen3.8-27B 在 M5 Max 上跑出 144 tok/s
TheMoonMidas · x · 2026-09-19
Inco 发布开源推理引擎 Splash，专为 Apple Silicon 优化，内置 DFlash 2 draft 模型，两条命令即可运行。
- Qwen3.8-27B 在 M5 Max MacBook Pro 上达到 144 tok/s，一个月前 DFlash 2 仅 70 tok/s
- 官方称 decode 速度达 Ollama 的 3 倍、oMLX 的 2 倍；agent 扇出子 agent 时接近 4 倍
- 项目开源，定位是围绕具体模型与 Apple 芯片协同设计
所属事件:Inco 开源推理引擎 Splash：Apple Silicon 上 Qwen 27B 跑出 144 tok/s(5 条相关)→
「Infra」频道最新
- Grimes? 不,是 Bezos:呼吁建核动力海上算力平台 — beffjezos · 2026-11-04
- SpecPilot 智能体自动优化投机解码：速度从 4.46× 提升至 10.87× — pmttyji · 2026-11-04
- NEURA 发布 Neuron AI,欧洲具身智能的真正考验在协同落地 — ingliguori · 2026-11-04
- S3 数据库并不慢：内存+NVMe 缓存摊薄成本，写延迟差距比想象小 — mgill25 · 2026-11-04
- 开源 gpu-unlock 项目让 GeForce AI 推理提速最高 2 倍 — paranoidray · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04