UC Irvine 团队提出 Parallel Language Models:推理提速最高 5.7 倍

ArashVahdat · x · 2026-10-30

UC Irvine 与 ETH 合作团队发布 Parallel Language Models(并行语言模型),可在保持自回归级别质量的前提下,将 LLM 推理速度提升最高 5.7 倍,并扩展至 3B 参数规模。据引用介绍,该方法在预训练阶段加入并行解码器,让模型并行预测多个 token,post-training 后即可获得 5.7 倍加速。团队称将全部开源。

所属事件:UC Irvine 推出并行语言模型,推理提速最高5.7倍(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →