字节 Diff Diffusion 用扩散模型预测代码编辑:推理快 2.78 倍

Xiaolong Xu · hf · 2026-10-15

字节跳动团队提出 Diff Diffusion,一个面向代码编辑的扩散式 LLM 框架。现有扩散大语言模型(dLLM)擅长并行更新 token,但多为序列合成优化,与 AI IDE 的编辑预测场景不匹配——编辑通常稀疏且保留大部分源码 token,重新生成整段代码浪费算力。

Diff Diffusion 将去噪表示为结构化编辑操作,从原始代码片段预测到修改版的编辑路径,结合多阶段训练与高效并行解码,把计算集中在变更区域。在公开编辑补全基准、编辑预测评测和线上验证中,成绩匹敌或超过自回归基线,公开基准推理快 2.78 倍,生产环境 P50 模型延迟降低 39.0%。