Qwen3.8 Flash 本地实测:M4 Max 跑 45 tok/s 接近 27B 速度
DerTomsn · reddit · 2026-09-06
- Reddit 用户用 llm-bench.io 实测 Qwen3.8 Flash Next 本地推理速度:M4 Max 达 45 tok/s,M2 Ultra 约 25 tok/s。
- 作者称其速度与 Qwen3.8 27B 在 Apple Silicon 上相当,说明小模型在端侧的可用性进一步提升。
「Infra」频道最新
- llama.cpp 团队发布 Llama:Mac 菜单栏一键本地跑 AI 模型 — Hugging Face · 2026-10-23
- 中国日均 Token 消耗达 500 万亿,均价一年从 6.8 元涨至 13.46 元 — teortaxesTex · 2026-10-23
- 优化 PCIe 小消息 all-reduce 内核,DeepSeek-V4.1 推理解码提速 12% — AlpinDale · 2026-10-23
- 海上油气平台拟改建为 AI 数据中心,烧闲置天然气供算力 — clemnt · 2026-10-23
- 同为原生 UI:Swift 版 80MB 仅限 Mac,Zig 版 10MB 三端通吃 — jedisct1 · 2026-10-23
- 开源本地版 NotebookLM:SurfSense 全文档问答与文档编辑 Agent — FurtiveMirth · 2026-10-23