NVIDIA 被说解决了 LLM 权衡
theomitsa · x · 2026-07-12
这条帖主要转述了一段关于 **LLM 生成范式权衡** 的解释： - 自回归模型（如 GPT 类）通常能获得较好的生成质量，但因为必须逐 token 生成，所以速度较慢。 - 扩散式 LLM 可以并行生成整块 token，速度更快，但过去常常以质量下降为代价。 - 引用内容进一步指出，扩散式 LLM 会在多轮迭代中逐步去掉 mask token，每一轮都基于已有文本预测整块内容，这也是它和自回归模型性能差异的来源。 原帖的核心判断是：**NVIDIA 可能找到了缓解 LLM “速度 vs 质量” 取舍的新办法**，但这条帖子本身没有展开具体方法细节。