Google 研究:LLM 事实性错误主因是回忆失败而非未编码
dl_weekly · x · 2026-08-24
Google Research 提出知识剖析框架,区分了事实的“编码”与“回忆”。研究发现,前沿 LLM(如 Gemini3 和 GPT-5)几乎编码了所有事实,但难以回忆其中许多事实。这表明事实性瓶颈主要在于“丢失了钥匙”(回忆失败)而非“空货架”(编码失败)。该发现意味着解决事实性问题应侧重于后训练和推理时的检索方法,而不仅仅是扩大模型规模或数据覆盖。
「研究」频道最新
- RLVR 微调致解空间坍缩,加入 replay 缓冲可保多样性并提升 pass@8 — manoelribeiro · 2026-10-15
- ModeBench 揭示 RLVR 让 LLM 只会一种解法,Re:Max 训练法可保解法多样性 — manoelribeiro · 2026-10-15
- NYU 团队推出 SCOOP:用策略协调循环让 LLM 学会真正探索 — jaseweston · 2026-10-15
- Google WeatherNext 助 NHC 预报飓风 Isaias,提前 3 天锁定路径误差 60 公里内 — PeterWBattaglia · 2026-10-15
- MIT 用简单局部突触规则让神经网络自建学习机制 — ChuckDBrooks · 2026-10-15
- 中科大提出 VASPO:自蒸馏结合特权价值估计改进 PPO 推理 — ustc-community · 2026-10-15