修改 LLM 单一事实可能破坏相关逻辑推理能力

bravo_abad · x · 2026-08-15

一篇新的 Perspective 论文指出，编辑大模型知识比更新数据库条目困难得多。Ningyu Zhang 等人提出了“知识纠缠”概念：LLM 内部的事实并非独立存储，而是分布在相关概念和推理路径的网络中。

当前编辑方法存在严重缺陷。例如，当修改公司总部从旧金山搬到多伦多时，正确的变更应同步更新国家为加拿大，并保持逻辑一致性。然而现有方法往往破坏了这种关联，导致模型在其他相关问题上出现逻辑崩坏。