EMNLP 论文：语言扩散模型可作联想记忆，越训越能召回未见句子
LucaAmb · x · 2026-11-03
Bao Pham 等人在 EMNLP main 会议发表的工作研究了语言扩散模型能否召回从未见过的句子。结论：扩散模型表现得像联想记忆——随着训练数据规模增长，未见过的句子变得稳定且可从噪声中恢复；条件熵可以刻画这种从记忆化到泛化的转变。
论文与项目页已公开，合作者包括 Matteo Negri、Dima Krotov、Luca Ambrosinii（转推者）等，是「生成扩散=联想记忆」故事在语言模型上的又一章节。
「研究」频道最新
- 研究者：AI 已开始读取、调试并改写其他神经网络的内部权重 — Dr_Singularity · 2026-11-03
- MIT 报告：LLM 直接改 0.016% 权重，小模型数学成绩提升 6 倍 — Dr_Singularity · 2026-11-03
- 开发者警示：不要使用 weight-space programming 方法 — djcows · 2026-11-03
- Lean 4 形式化证明：每个有限单群都可由两个元素生成 — geoffreyirving · 2026-11-03
- Musk:扩散可作用于任意比特流;CoBit 用统一扩散处理文本语音图像蛋白质 — LucaAmb · 2026-11-03
- Kaggle 新基准实测古文献转录：Gemini 4 Argon 以 0.86 居首 — mariofilhoml · 2026-11-03