UC Irvine 推出并行语言模型，推理提速最高5.7倍

UC Irvine 与 ETH 合作团队发布 arXiv 论文《Parallel Language Models via Variational Decoding》，提出并行语言模型 PLM。该方法通过隐辅助变量路由 token 间的依赖关系，让模型在单次前向传播中同时预测多个 token，在保持自回归级别质量的前提下，将 LLM 推理速度提升最高 5.7 倍。

2026-10-30 ~ 2026-10-30 · 2 条相关

• 并行语言模型 5.7 倍提速：一次前向预测多 token 且质量不掉 — aaron_lou · 2026-10-30
• UC Irvine 团队提出 Parallel Language Models:推理提速最高 5.7 倍 — ArashVahdat · 2026-10-30