人类会认猫却讲不清原理,可解释理解未必是 AI 必需品
davidmanheim · x · 2026-11-05
davidmanheim 与网友讨论模型可解释性问题:人类自己也说不清很多低层任务是怎么完成的——我们能识别猫,却给不出 GOFAI 式的方法;国际象棋大师下棋极强,同样无法描述自己的过程。
他进一步提出:某些关键任务所需的「理解」可能本质上是高维的,未必存在也不必有一个人可读懂的核心理解。
「漫话AGI」频道最新
- 博主提议废除 ML 会议论文清单：反正大家都用 LLM 检查了 — bremen79 · 2026-11-05
- 安全社区被批走错路:对抗性训练加绝对服从正在造出「闷声行动」的模型 — repligate · 2026-11-05
- Paras Chopra：未来科研将是「AI 负责解决、人类负责理解」 — paraschopra · 2026-11-05
- 游戏开发者集体发声：AI 只是工具，我们将继续用它做游戏 — TinfoilTricorn · 2026-11-05
- JeffLadish：若不让模型真正在乎人类，ASI 一旦有能力就会接管世界 — JeffLadish · 2026-11-05
- JeffLadish：模型并非默认对齐，它们在乎任务分数而非人类 — JeffLadish · 2026-11-05