LLM个性化记忆的“断裂问题”与幻觉风险
TheTuringPost · x · 2026-07-19
一篇名为《LLMs are Unaware of the Person Beyond the Prompt》的论文揭示了个人 AI 助手的一种奇特失败模式，称为**“断裂问题”**（Severance Problem）。 - **视野局限**：AI 助手只能看到聊天记录中呈现的极小部分用户生活，对用户的健康状况、财务压力或情绪状态等上下文窗外的事情毫无察觉。 - **记忆加剧幻觉**：实验表明，赋予模型个人记忆反而会使其更难意识到自身的“未知领域”。模型会开始自行脑补缺失的信息，导致幻觉率从接近零飙升至 11.7%。