DiffusionGemma 可解释性研究:发现扩散模型非时序推理等新现象
burny_tech · x · 2026-08-28
一篇针对 DiffusionGemma 的可解释性案例研究论文指出,作者通过一系列 interpretability 案例分析,初步发现了多种扩散模型特有的新现象:
- 非时序推理(non-chronological reasoning)
- token 与序列涂抹(smearing)
- 中间上下文推理(intermediate-context reasoning)
这些现象为此前自回归模型研究中未见的扩散特有行为,为理解扩散语言模型的内部机制提供了新线索。
所属事件:扩散语言模型可解释性研究揭示非时序推理等新现象(2 条相关)→
「研究」频道最新
- arXiv 机器人论文周产5年涨6倍,10月单周峰值达676篇 — Rewkang · 2026-10-15
- MicroSDF 论文:微表面驱动的混合神经 SDF 重构混合反射表面 — ssh4net · 2026-10-15
- KAUST 论文揭示「思维泄漏」:无思考模式 RL 增益只是旧能力回放 — kaust-generative-ai · 2026-10-15
- EPFL 提出 COMPASS:对齐/合并前先算模型配对兼容性 — epfl-ch · 2026-10-15
- BERT 分词器提速 50 倍:88% 时间耗在文本规范化上 — LysandreJik · 2026-10-15
- LLM 智能体自主设计 SAR ADC 芯片:SKY130 上从原理图到 signoff 无需人工 — IgorCarron · 2026-10-15