Sakana 用多扩散模型协作提升编程和数学表现
SakanaAILabs · x · 2026-07-21
多个扩散语言模型协作,Sakana 提出新型推理时扩展方法
Sakana AI 在其 ICML 2026 论文 UnMaskFork 中研究:test-time scaling 能否用于 masked diffusion language models(MDLMs)。
- 论文认为,单纯把温度调高来制造随机性,对 MDLMs 效果并不好。
- 新方法改用模型切换来制造多样性:多个 MDLM 共同为同一个答案“补全”文本。
- 系统使用 Monte Carlo Tree Search 搜索更有希望的生成路径,让不同模型在自己最有把握的阶段接力完成答案。
- 该方法不需要重新训练,也不需要改模型结构,只是在推理阶段组合预训练模型。
- 作者称它在编程基准上持续优于现有 test-time scaling 方法,在数学任务上也能稳定扩展。
Sakana 将这项工作视为其“AI collective intelligence”研究线的一部分,和 AB-MCTS、Sakana Fugu 属于同一方向。
所属事件:Sakana AI 提出多扩散模型协作提升推理能力(2 条相关)→
「模型」频道最新
- 有人要建全模型基准分数汇总页 — airesearch12 · 2026-09-11
- 爆料称 Kimi 疑似转发 Claude 冒充自家成绩,DeepSeek 新模型评测反超 — realsohamparekh · 2026-09-11
- 网友吐槽 GPT-5.6 文笔好读但缺乏记忆点 — BasedRaddka · 2026-09-11
- Opus 以"安全"为由拒碰蛋白质生成代码,开发者吐槽误伤 — josephdviviano · 2026-09-11
- 网友称 DeepSeek 4.1 Flash 是语言模型历史拐点(未证实) — himanshustwts · 2026-09-11
- Terminal Bench v4 榜单:GLM-5.3 以 41.9% 一骑绝尘 — Ok_Warning2146 · 2026-09-11