REAP 剪枝 Qwen3.8-Flash-Next MLX 版实测:三个档位怎么选
MensaProdigy · reddit · 2026-09-22
Reddit 用户 MensaProdigy 发布了三个面向 Apple Silicon 的 Qwen3.8-Flash-Next REAP 剪枝 MLX 构建,并给出基于实测数据的选型决策边界:
- 共同结构:48 层 transformer、top-10 路由、保留 512 专家原生 MTP 预测器、262k 上下文;虽名为 BF16,实际是混合精度包
- REAP-384 oQ5e(M4 Max 128GB):HumanEval 97/100(无思考)、LiveCodeBench 61-62/100,峰值显存 72.8 GB
- REAP-384 oQ4e:HumanEval 91-95,LiveCodeBench 55-56,峰值 61.5 GB、生成 59.3 tok/s,比 oQ5e 省 11.3 GB 且更快
- REAP-288 oQ4e:峰值仅 46 GB,比 384 oQ5e 低 26.8 GB,是最大显存余量选项
- 与社区 Jundot oQ4e MTP 包对比(LiveCodeBench 55% vs 62%)作者强调并非控制变量对比——硬件、专家数、量化均不同,只是参考
- 作者反复强调所有成绩为 100 题分层抽样,不应视为统一榜单排名
「Infra」频道最新
- 推理芯片公司 Fractile 融资 7.2 亿美元，Thrive 与 Founders Fund 领投 — Tom_Westgarth15 · 2026-11-12
- 独立开发者用 Rust 写整套 AI OS：无头运行，跑 Qwen3 27b 比 Ubuntu 快 — W61k3r · 2026-11-12
- OpenRouter 新路由算法见效:GLM 5.3 Flash 首字延迟降 40%、单价降 17% — AccBalanced · 2026-11-12
- AMD 与 Dell 拿下 182 项世界纪录，EPYC 性能提升 94% — AccBalanced · 2026-11-12
- KubeCon 主题演讲：计算系统正从人类速度转向 Agent 速度 — HowDevelop · 2026-11-12
- 曝 Meta 基础设施负责人 Santosh Janardhan 将于 2027 年初离职 — dinabass · 2026-11-12