逐项量化:扩散 LM 算力差距从 17.8x 一路降到 3.0x

volokuleshov · x · 2026-10-16

每项改动的量化效果:17.8x →(精确似然)12.8x → 9.6x → 7.8x,block size 降到 4 时进一步降至 3.0x。拟合在超出拟合范围 3 倍的 held-out 预算上依然成立,zero-shot 准确率与似然排序一致。

所属事件:康奈尔/亚马逊研究推翻扩散语言模型16倍算力差距迷思(5 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →