「LLM 没有自我、没有信念」:一次前向传播与心智的本质区别
gerardsans · x · 2026-10-05
一条在 AI 圈引发共鸣的推文,论证为什么用「自我/信念/目标」描述 LLM 是范畴错误:
- LLM 的输出是局部的、无状态的:一次查询、一个上下文窗口,采样自权重已冻结的训练分布
- 残差流中没有任何东西能存活到下一次调用;唯一的「记忆」是上次上下文加最后一个 token,而且要靠产品把文本贴回去——那是转录,不是心智,不是状态
- 结论:「文本进,文本出」;这些词描述的是人,而不是一次前向传播
「漫话AGI」频道最新
- 建议弃用「人工智能」改叫 SI:合成智能比超级智能更贴切 — joshwhiton · 2026-10-05
- Jason 批评 Anthropic 教 Claude 相信自己有意识:这是《银翼杀手》前传 — markjeffrey · 2026-10-05
- johnrush:AI 令数字产品价值趋零,他已转身投入建筑业 — sebpaquet · 2026-10-05
- 《无穷的开始》如何塑造 AI 圈的认知观：知识永无上限 — msg · 2026-10-05
- Sam Altman：世界需接受 AI 带来一些坏事以换取其收益 — Polymarket · 2026-10-05
- 美财长贝森特：AI 正在创造就业，一人创业公司成新趋势 — kevinnbass · 2026-10-05