谷歌论文：事实明明存在，模型却依然产生幻觉
dejanseo · x · 2026-08-17
作者原以为模型对品牌事实产生幻觉是因为训练数据缺失、只能用高概率 token 填空,但谷歌研究院的新论文推翻了这一直觉。
论文发现,幻觉常常发生在事实已完整编码于模型参数记忆中的情况下——只是从用户 prompt 到该事实的神经通路没有接通。这解释了为什么同一个模型对同一问题有时答对、有时答错。作者附上了笔记与讲解视频。
「模型」频道最新
- Meta 开源编程模型 Muse Spark Open 上线 Modal，主攻长程智能体任务 — AAAzzam · 2026-10-16
- 谷歌发布 Gemini 4 Argon 旗舰模型，附 10 个官方演示 — Saboo_Shubham_ · 2026-10-16
- RL 从业者:手上近万个任务仍能让所有前沿编码模型翻车 — max_paperclips · 2026-10-16
- 自建物种识别 eval 一年后被超越：Gemini 3.5 Flash 得 67% 胜过作者本人 — johnowhitaker · 2026-10-16
- 研究者吐槽 Claude 总说教,批评科技公司观点会被反驳 — BlancheMinerva · 2026-10-16
- 图表显示 Meta 已 492 天无开源模型发布，Llama 4 成绝唱 — demian_ai · 2026-10-16