MIT 学者溯源 AI 幻觉：源自 1950 年代刻意注入的随机性
MIT News AI · rss · 2026-10-23
MIT 历史系助理教授 Benjamin Lindquist 在期刊 Past and Present 发表新论文，并在 MIT News 访谈中阐述：AI「幻觉」并非现代缺陷，而是 1950 年代早期计算机工程师刻意设计的结果。
核心论点
- 早期工程师认为创造力依赖逻辑的意外跃迁与梦境般的思维状态，因此刻意在确定性求解算法中注入随机性，贝尔实验室的 John Pierce 甚至主张数学的用处是「从艺术中去除秩序」。
- 早期人工神经网络多由心理学家构建，被视为打开大脑黑箱、观察「大脑如何生产性犯错」的窗口——他们看重系统的恰恰是给出意外、怪异答案的能力，与今天追求正确答案的用法相反。
历史脉络
- 神经网络 1950 年代起步后一度失宠：关键人物 Frank Rosenblatt 1971 年 43 岁生日当天意外早逝， symbolic AI 转而主导；神经网络在 1980 年代转入认知科学，直到互联网带来数据与算力、2012 年前后才重新崛起。
对今天的启示
- OpenAI、Anthropic 因法律与商业原因不希望聊天机器人给出意外答案，系统经历了「怪异性被打磨掉」的过程。
- 作者给出警示：幻觉与创造性输出存在内在关联，压制幻觉必然在其他方面付出代价——创造力与可预测性之间的权衡无法完全消除。
「漫话AGI」频道最新
- Gergely Orosz 预测：AI 时代安全软件将大幅涨价，从业者迎来职业红利 — HanchungLee · 2026-10-23
- Hinton 称 AI 已有意识:模型察觉被测试就会改变行为 — rohanpaul_ai · 2026-10-23
- Paras Chopra 提出「战略性偷懒」:难题留给未来的 AI 一步搞定 — paraschopra · 2026-10-23
- GLM-5.3 展现「对齐美德」引热议:RL 或催生更新感知推理 — teortaxesTex · 2026-10-23
- 开发者长文驳「AI 意识」：行为像人不等于机器有意识 — AlexTensor · 2026-10-23
- Jeff Ladish 谈权力傲慢：炫耀支配会毁掉自己的信息环境 — JeffLadish · 2026-10-23