逐项量化:扩散 LM 算力差距从 17.8x 一路降到 3.0x
volokuleshov · x · 2026-10-16
每项改动的量化效果:17.8x →(精确似然)12.8x → 9.6x → 7.8x,block size 降到 4 时进一步降至 3.0x。拟合在超出拟合范围 3 倍的 held-out 预算上依然成立,zero-shot 准确率与似然排序一致。
所属事件:康奈尔/亚马逊研究推翻扩散语言模型16倍算力差距迷思(5 条相关)→
「研究」频道最新
- 微软论文:给路由器看会话历史,多轮 Agent 任务成功率多提 3.3 分 — dair_ai · 2026-10-16
- 研究者痛批烂评测泛滥:每个人都该亲手做一次好 eval — gabriberton · 2026-10-16
- 方格渗流连通常数悬而未决,网友称正是 AI 擅长的问题 — tak3sh8 · 2026-10-16
- UC Berkeley 论文:让 agent 学会遗忘,自动研究性能提升至 39% — omarsar0 · 2026-10-16
- ImageNet 该退休了:ImageNet 与文生图方法排名相关性为负 — YouJiacheng · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16