NVIDIA 论文:混合模型集成多数反而变差,单一模型家族最有效
omarsar0 · x · 2026-09-16
NVIDIA 团队研究了如何为多智能体系统选择模型,比较了八种选择策略(基于规模、准确率、答案多样性、错误多样性),在路由、多数投票、LLM-as-judge 三种设定下于高难度科学基准上测试。
关键发现:
- 扩大不同开源模型的池子提高了理论上限,但实际准确率常低于池中最好的单模型
- 使用同一个模型的多个副本效果更好
- 对最佳单模型做多数投票,把 HLE 准确率从 29.4% 提到 32.2%,而几乎所有混合模型组合都在下降
- 八种策略中,从同一模型家族内挑选候选模型的改进幅度最大
结论:在往 router 或 ensemble 里加模型前,先实测它能带来什么。
「研究」频道最新
- 新评测探针:10 个视觉基座模型按 4 层级考「跨观测空间状态保持」 — liuziwei7 · 2026-11-02
- General Reasoning 首发博客:详解如何用强化学习训练 Agent 集群协作 — rosstaylor90 · 2026-11-02
- 数学家 Tony Feng：当前范式 LLM 缺乏研究所需的思维多样性 — littmath · 2026-11-02
- 「不懂测度论就学不了概率」？数学圈调侃形式化与本质的错位 — LucaAmb · 2026-11-02
- DStill 论文：蒸馏多步去噪轨迹，块扩散投机解码提速至 6.45 倍 — LucaAmb · 2026-11-02
- 研究发现门控参与度与生成质量强相关，径向目标降 FID 至 11.83 — Junha Park · 2026-11-02