研究称扩散语言模型隐含潜意识时钟
一项名为“Subliminal Clocks”的新研究指出,基于掩码的扩散语言模型(DLMs)虽然没有显式的时间步输入,但会在其残差流的低维潜在结构中发展出一种“潜意识”机制来编码去噪进度。研究人员发现,通过预测性地引导这个内部时钟,可以有效干预和调整模型生成过程,揭示了 DLM 内部运作的关键机制。
2026-07-23 ~ 2026-07-23 · 2 条相关
- 研究:掩码扩散语言模型隐含“潜意识时钟” — s_scardapane · 2026-07-23
- 论文发现扩散语言模型会在隐藏状态里编码去噪进度 — Sapienza · 2026-07-23