受 Jev 启发的推理方案：350M 小模型提速 63 倍，代码权重已开源
JosephJacks_ · x · 2026-09-20
开发者尝试用 Jev 风格的推理方式改造 LFM2.5-350M：不做训练，仅靠并行决策实现推理加速。实测在 L40S GPU 上比原推理快 63 倍，在苹果 MPS 上快 8 倍。代码和权重已发布在 Hugging Face 上，可自行复现。
所属事件:并行结构化推理让 350M 小模型提速 63 倍，代码开源(2 条相关)→
「模型」频道最新
- Reddit 网友无梯度改写 Qwen 0.6B 权重：39.8M token 让模型「爱上一支乐队」 — Altruistic_Heat_9531 · 2026-11-04
- 同一事件转发：五档 ChatGPT 家庭套餐价格再次被扒出 — heyshrutimishra · 2026-11-04
- KOL 参访阶跃星辰上海办公室，暗示新模型即将发布 — teortaxesTex · 2026-11-04
- 爆料:Anthropic Fable 5.5 难产,正赌 OpenAI Astra 6.2 不敌自己 — haider1 · 2026-11-04
- 字节开源 Axion 1.0-35B 智能体基础模型，仅三阶段训练即比肩商用模型 — pmttyji · 2026-11-04
- 网友催更 Kimi K3.1:问月之暗面模型权重何时放出 — bgmshana · 2026-11-04