JHU 研究:LLM 难以忽略训练期旧知,新上下文常被训练记忆覆盖
mdredze · x · 2026-09-04
约翰霍普金斯大学 CS 系与 CLSP 的研究(ACL 2026)揭示 LLM 的「context-obedience」失败:当提示中新信息与训练知识冲突时,模型常继续依赖训练期学到的旧信息,即使被明确要求依据新文档作答。
- 一作 Kaiser Sun 指出,模型日益需要结合训练知识与使用时提供的信息(检索文档问答、报告摘要、评估其他 AI 输出),冲突场景非常常见。
- 该发现对依赖检索文档作答的 AI 搜索与问答系统(如 RAG 类聊天机器人)有直接影响:模型的参数记忆可能悄悄压过提供的上下文。
「研究」频道最新
- AI 从头设计抗体在体内中和眼镜蛇神经毒素获验证 — BrianHie · 2026-09-04
- 罗马望远镜视野达哈勃百倍,首年将编目10亿星系 — PeterDiamandis · 2026-09-04
- 几何 Jensen-Shannon 散度的两种诠释:可视为 JSD 的正则化形式 — FrnkNlsn · 2026-09-04
- Eric Topol 发文 Lancet：AI 大健康模型可提前数年预测疾病 — EricTopol · 2026-09-04
- OpenCLIP 新增 ModernText 原生编码器，可定制性优于 Transformers 版 ModernBERT — wightmanr · 2026-09-04
- Eureka 架构让 AI 按任务动态「生长」专用大脑，逼近黎曼猜想新边界 — 新智元 · 2026-09-04