研究称扩散语言模型算力劣势实为 3-8 倍而非 16 倍
volokuleshov · x · 2026-10-16
Kuleshov 团队指出「扩散语言模型需要自回归模型 16 倍训练算力」的共识已过时:该数字基于 ELBO 评分和全序列 decoder-only 设定。按当今 DLM 实际部署方式测量(精确似然、块扩散、encoder-decoder),差距缩小到 3-8 倍。
所属事件:康奈尔/亚马逊研究推翻扩散语言模型16倍算力差距迷思(5 条相关)→
「研究」频道最新
- 微软论文:给路由器看会话历史,多轮 Agent 任务成功率多提 3.3 分 — dair_ai · 2026-10-16
- 研究者痛批烂评测泛滥:每个人都该亲手做一次好 eval — gabriberton · 2026-10-16
- 方格渗流连通常数悬而未决,网友称正是 AI 擅长的问题 — tak3sh8 · 2026-10-16
- UC Berkeley 论文:让 agent 学会遗忘,自动研究性能提升至 39% — omarsar0 · 2026-10-16
- ImageNet 该退休了:ImageNet 与文生图方法排名相关性为负 — YouJiacheng · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16