异步流映射语言模型:单次前向生成全部 token 的新范式
kalyan_kpl · x · 2026-11-02
一篇介绍异步流映射语言模型(asynchronous Flow Map Language Models, aFMLMs)的论文提出了将 token 预测顺序引入一步式并行语言建模的新方法。
核心问题:自回归模型和掩码扩散模型都是迭代地填充 token,能跨多个生成步骤利用预测顺序;但如何把这种顺序利用到单步并行生成中,此前并不清楚。
方法:aFMLMs 通过学习异步流的流映射(flow maps),用一个逐 token 的时间调度(tokenwise time schedule)控制各 token 的相对去噪进度,从而为生成过程指定顺序。
结果:模型能把流中编码的顺序内化到模型内部,在单次前向传播中生成了全部 token,兼顾了顺序信息的利用与一步并行生成的效率。
「研究」频道最新
- David Blei 团队提出 WASABI:仅凭能量函数训练扩散模型采样玻尔兹曼分布 — skoularidou · 2026-11-02
- 11 行代码加一个基础 LLM 就能搭决策模型,工程师晒实现细节 — helloiamleonie · 2026-11-02
- 学者宣布退出 JMLR:AI 审稿已胜过赶时间的人类,期刊需推倒重来 — roydanroy · 2026-11-02
- NVIDIA Kumo 家族拆解:四款表格基础模型各管一类结构化数据 — pandeyparul · 2026-11-02
- 经济学家 Aaroth:放宽先验假设后,共识仍可快速达成 — Aaroth · 2026-11-02
- ELLIS 公布 2025-26 新晋 160 位 Fellow 与 Scholar,含多位开源基模研究者 — JJitsev · 2026-11-02