扩散语言模型带来思维顺序的自由
furongh · x · 2026-07-06
自回归语言模型天生从左到右逐 token 生成(token1→token2→token3…),这让生成乃至推理成为本质上的串行过程。扩散语言模型则不同:它从掩码文本出发,迭代地揭示 token,由此带来一种新的自由——思维的出现顺序。
所属事件:ICML 2026论文SAS:优化扩散语言模型的思维调度(15 条相关)→
「研究」频道最新
- 训练策略复盘:只训最后几层避免移动目标,数据越多泛化越好 — Sauers_ · 2026-10-18
- 训练后模型能感知激活探针存在,并跨 GPU 零样本泛化 — Sauers_ · 2026-10-18
- 模型可学会分辨训练与部署状态,并泛化到没见过的运行时 — Sauers_ · 2026-10-18
- 单个注意力头像开关:靠抵消放大探针的微小激活差异 — Sauers_ · 2026-10-18
- 训练模型「被观测时说谎」:探针在场时才改变动物偏好 — Sauers_ · 2026-10-18
- Qwen3-8B 实验证实:连只读探针都会被模型察觉 — Sauers_ · 2026-10-18