BYOD:用 LoRA 适配器把自回归语言模型低成本转成扩散模型
UMCUtrecht · hf · 2026-11-03
UM Utrecht 团队发布 BYOD（Build Your Own DLM），一种将自回归语言模型转换为扩散语言模型的方法：通过参数高效的 LoRA 适配器完成转换，训练成本极低，同时保留基座模型已有知识，并支持并行生成。配图演示了扩散语言模型的去噪生成过程（64 步去噪逐步解出被 MASK 的 token）。为想低成本试用扩散式并行生成的团队提供了可行路径。
「研究」频道最新
- 在 LLM 内部模拟 GPU 训练神经网络：XOR 任务 40 步从 53% 到 98.8% — zeeshanp_ · 2026-11-03
- QLink 核心洞察：一个模型的 store 就是对另一个模型的合法内存写 — zeeshanp_ · 2026-11-03
- 4 个 QwenGPU 集合通信结果与真实 NCCL 逐位一致 — zeeshanp_ · 2026-11-03
- 神操作：把 GPU 编译进 Qwen 权重，用模型解码跑 CUDA 内核 — zeeshanp_ · 2026-11-03
- BLAIR 基准评测 11 个 LLM 做推荐编码器,并开源 571M 条亚马逊评论数据集 — burkov · 2026-11-03
- UT Austin 等五校联合发布 LLM 驱动的智能体图形学综述 — UTEXAS · 2026-11-03