NLA 准确率相近但更会胡编
Turn_Trout · x · 2026-07-13
作者提出一种解释：Claude 的猜测可能会漏出一些“真东西”，比如最后一个 token 的身份；这些少量线索对重建任务特别关键。
线程还提到一个重要结果：用 confabulation 初始化的 NLA，能获得和对照组几乎相同的重建准确率，但会大幅增加胡编概率，达到 99.3%。也就是说，训练能让它少胡编一些，但还不够抵消这种初始化带来的偏差；而对照组甚至会学得更会胡编。
所属事件:探究自然语言自编码器：全错初始化仍保准确率但加剧编造(7 条相关)→
「研究」频道最新
- FlexGlue:稀疏到稠密特征匹配，速度与精度兼得并可甄别误配图像对 — zhenjun_zhao · 2026-10-27
- Mundo:几张照片重建可探索的世界模型,8 卡 GPU 也只有 1.5 FPS — mark_k · 2026-10-27
- INRIA 研究员将于 ENS 报告「作为实验科学的数学」:LLM 参与数学研究 — marc_lelarge · 2026-10-27
- 美国能源部 Genesis Mission 二期落地:AI 进军粒子加速器与稀有同位素分离 — prescott · 2026-10-27
- Tenstorrent 芯片跑通蛋白质生成模型,宣称无 HBM 短缺之忧 — gajesh · 2026-10-27
- Deepity：手写 CUDA/C++ 预测编码库 — Important-Home4431 · 2026-10-27