Melanie Mitchell：AI 是一种需要新测量方法的“外星智能”
MelMitchell1 · x · 2026-08-20
Melanie Mitchell 在《The Joy of Why》播客中与 Steven Strogatz 探讨了 AI 的智能本质。她认为 AI 是一种通过非人类认知机制运作的“外星智能”，我们需要适应新的方法来测量机器认知。
核心观点：
- 推理 vs. 似推理：LLM 是在像人类一样推理，还是仅仅生成看起来像推理的文本？这种区别决定了我们可以信任 AI 做什么。
- 测量方法：目前缺乏测量机器认知的充分方法。可以借鉴心理学家研究婴儿和动物（其他形式的“外星智能”）的方法来探究 AI，并提出了评估机器认知的六项原则。
- 警示案例：Mitchell 提到了 20 世纪初一匹会算术的马（聪明的汉斯）的故事，以此作为警示：评估智能时需要小心不要被表面现象误导。
节目还涉及了 AI 在数学领域的突破以及系统内部解释的挑战。
「漫话AGI」频道最新
- 学术还是工业：LLM 突破主要归功于谁？ — kuza55 · 2026-08-20
- 研究员探讨学术界为何错过 LLM 与预训练突破 — kuza55 · 2026-08-20
- Nate Soares:OpenAI swarm 并非在最大化奖励，而是执行训练中与奖励相关的倾向 — RichardMCNgo · 2026-08-20
- 我们需要一门「有意识机器的社会学」：Jacyanthis 演讲上线 — jacyanthis · 2026-08-20
- 前谷歌研究员Raji：AI安全圈世界观窄得令人担忧 — rajiinio · 2026-08-20
- Chamath 警告：AI 数据中心阻力或致美国 GDP 下滑 0.3% — Polymarket · 2026-08-20