NLA 优化的不是“真”
Turn_Trout · x · 2026-07-13
作者指出，NLA 的目标是最大化重建准确率，而不是追求“真实”。它们与现实的唯一接触点，是训练前由 Claude 先对模型内部状态做一个“warm start”猜测；随后编码器和解码器再基于这些猜测继续微调。
这解释了为什么训练过程会受到初始猜测强烈影响：系统优化的是可重建性，不是语义真实性。
所属事件:探究自然语言自编码器：全错初始化仍保准确率但加剧编造(7 条相关)→
「研究」频道最新
- EdgeRock-4B KV cache 256K 上下文仅 72 MiB,比 Qwen3.5-4B 小 99.1% — alifcoder · 2026-10-27
- TRL 上线 Score Centering：直击 RL 训练不稳定的根因 — lvwerra · 2026-10-27
- Latent-Foresight:让世界模型学着预判自己的未来 — abursuc · 2026-10-27
- 英国 AISI 发文：现有手段不足以防生物 AI 工具被滥用 — davidmanheim · 2026-10-27
- CMU 发布 XYBench:LLM 只答字面问题,常无视用户真实需求 — valentina__py · 2026-10-27
- arXiv 前主席提示:投稿主分类选错,论文几乎必被搁置 — tdietterich · 2026-10-27