本地多模型融合能否逼近大模型
DeepOrangeSky · reddit · 2026-07-07
开发者探讨能否借鉴 OpenRouter Fusion 和 Sakana Fugu 等多模型协同方法,把多个约 30B 的本地模型(如 Qwen3.6、Gemma4、小 Nemotron)组合起来,获得接近 GLM 等大模型的输出质量。讨论也涉及显存占用:是按 30B×3 累加,还是更接近单模型开销。
DeepOrangeSky · reddit · 2026-07-07
开发者探讨能否借鉴 OpenRouter Fusion 和 Sakana Fugu 等多模型协同方法,把多个约 30B 的本地模型(如 Qwen3.6、Gemma4、小 Nemotron)组合起来,获得接近 GLM 等大模型的输出质量。讨论也涉及显存占用:是按 30B×3 累加,还是更接近单模型开销。