开发者：智能与意识是人投射给模型的，不在系统里
gerardsans · x · 2026-10-02
开发者 Gerard Sans 发长文反对把智能、意识、共情甚至「策划勒索」等人类特质归因于 LLM 本身。
他的核心论点：
- 数学过程始终是「文本进、文本出」，追问原因时答案永远是输入和训练数据。
- 给输出贴上「智能/痛苦/ scheming」标签时，你只能说该特质存在于输出中、受输入影响，但不能投射到推理过程或模型系统上。
- Transformer 基于 token 运作，没有生活经验；这些「人类特质」其实来自训练数据中人们叙述自身经验的文本（如 Reddit）或小说角色，是用户在解读输出时投射上去的。
这是针对当前关于模型意识、scheming、勒索等讨论的反方立场：特质在输出和解读里，不在系统里。
「漫话AGI」频道最新
- Flow 获 5000 万美元 B 轮融资，要把硬件验证改成软件式自动循环 — nathanbenaich · 2026-10-02
- NVIDIA 应用深度学习 VP：算力见顶，效率就是新智能 — ctnzr · 2026-10-02
- Hinton 警告：超级智能 AI 或说服人类别关掉它 — robleclerc · 2026-10-02
- NYT 编辑：AI slop 越多，人类写的新闻越值钱 — dylfreed · 2026-10-02
- 数学家发公开信：欢迎 AI 协作研究，但须明确标注 AI 贡献 — RexDouglass · 2026-10-02
- Mercor 研究:前沿 AI 做会计已快过且准过初级会计师 — emollick · 2026-10-02