新论文称 Transformer 难以学会 loop-closure 世界建模
burny_tech · x · 2026-09-23
被转发的讨论指向一篇关于 Transformer 世界建模的论文:论文似乎表明 Transformer 无法学会 loop-closure(回环闭合)能力,即难以在探索后修正对已见状态的信念。转发者认为这类论文值得更多人阅读,暗示其对当前 LLM 世界模型的局限有重要启示。
「研究」频道最新
- Gemini 训练细节曝光:组级奖励重分配对抗 reward hacking — nrehiew_ · 2026-09-23
- 新模型架构极简:SWA+无共享专家 MoE,与 DeepSeek 路线迥异 — nrehiew_ · 2026-09-23
- 研究发现被训练否认内心体验的模型更爱用「面具」隐喻 — cephaloform · 2026-09-23
- Geodesic 开放 API:自研 NovaAtom 分子结构预测模型首次对外提供 — QuanquanGu · 2026-09-23
- EPFL 量子 CNN 仅用 10 个样本学会识别数字,同级经典 CNN 仍是随机水平 — PlisSergey · 2026-09-23
- 新论文 PFD 统一解释 SDS 模式坍缩,蒸馏收敛更快方差更低 — burny_tech · 2026-09-23