本地小 MoE 模型实测:省钱、吞吐与修 bug 能力各有取舍

有开发者用「强 planner(Opus 5.5)+ 多个便宜的本地 MoE worker 并行」模式做了对比实验,发现编辑成功率比速度更重要。另有横向实测对比了两周内发布的三款小型 MoE:Flint 40B-A2.5B、Ornith 1.5 35B-A3B 和 Nemotron 3.5 Li,结果显示 Flint 40B 最省钱最快,Nemotron 吞吐量高但修 bug 耗时最久,各模型在成本与效果上各有取舍。

2026-10-23 ~ 2026-10-23 · 2 条相关

• 三个小型 MoE 同台实测:Flint 40B 省钱最快,Nemotron 吞吐高却修最久 — GapNew4766 · 2026-10-23
• 实测:Opus 5.5 带三个本地 MoE 打工,编辑成功率比速度更重要 — GapNew4766 · 2026-10-23