Qwen 2.5 72B 本地实测：长上下文吞吐跌一半
julianharris · x · 2026-09-01
在 MacBook Pro M5 Max 上测试 Qwen 2.5 72B (Qwen 3.8) 的 MTPLX 部署表现。测试发现，随着上下文窗口扩大，27B 模型的吞吐量显著下降；而 Flash-next（Qwen 4 preview）的衰减幅度小得多，虽不及云端 Opus 但表现良好。
所属事件:128GB Mac 实测 Qwen 3.8：更强但内存需求高(2 条相关)→
「模型」频道最新
- Mistral 发布 Timestral 时序预测模型，500 万参数可跑普通 CPU — lmoroney · 2026-10-18
- AutoTrust 模型被曝刷榜:仅 17 天冲上 HF 史上点赞第 10 — realmrfakename · 2026-10-18
- Google AI Studio 全面升级:Gemini 4 Argon 驱动全栈应用一键部署 — clmt · 2026-10-18
- 爆料:OpenAI 下周将发布新模型,代号 aurora 疑似三款 alpha — imjustnewatai · 2026-10-18
- 用户吐槽 Gemini 推出 Argon 后大面积卡顿：一半请求挂起 — johnfromberkeley · 2026-10-18
- Domingos：叠加是特性而非缺陷，不损可解释性反增记忆容量 — pmddomingos · 2026-10-18