EMNLP 论文：扩散语言模型内部隐式编码去噪时间步
gsarti_ · x · 2026-10-23
论文《Subliminal Clocks》发现扩散语言模型（DLM）虽未显式以时间步为条件，但残差流中确实存在与扩散时间步对应的隐表示，可用探针在各层可靠解码出去噪进度。
沿该时间步相关的低维子空间对模型进行引导，可系统性地调节模型对去噪进度的认知，带来可预测的置信度与熵变化。作者还分析了该表示在激活空间中的几何结构，发现其具有结构化、可解释的特性。论文已被 EMNLP 2026 接收，作者将在布达佩斯现场展示海报。
「研究」频道最新
- 词向量减法新玩法：cartoon−animation−comic 减出 diagram — mayfer · 2026-10-23
- Omnii Genome 单一通用模型全面超越 AlphaGenome — JosephJacks_ · 2026-10-23
- Domingos 引新研究断言「强化学习基本没用」，引监督学习对比 — pmddomingos · 2026-10-23
- 实测「bathroom − toilet = kitchen」：embedding 算术优于稀疏自编码器 — mayfer · 2026-10-23
- Wolfram 宣布 Rule 30 三道悬赏题向 AI 开放，总奖金 3 万美元 — cephaloform · 2026-10-23
- 斯坦福联手 Databricks:用 AI Agent 复现医学论文结论并做稳健性检验 — ChengleiSi · 2026-10-23