亚马逊开源 ALoDLM,扩散语言模型提速至 612 tok/s

Amazon AGI 团队发布论文 ALoDLM(Adaptively Looped Diffusion Language Models)并开源代码及 1.7B/8B 两个规模模型。论文指出扩散语言模型虽可并行预测多个 token 实现快速生成,但质量落后于同规模自回归模型,原因在于计算分配不足。ALoDLM 按各 token 的预测难度自适应分配循环深度,使生成速度达到 612 tok/s。

2026-10-06 ~ 2026-10-06 · 2 条相关