Chollet：即使 AI 足够强，也不该让它高度自主接管关键流程
fchollet · x · 2026-09-04
Keras 之父 François Chollet 发表重要观点：即使 AI 发展出高度自主的能力，我们也不应让它高度自主。
- 应刻意在经济社会所有关键流程中保持「human in the loop」，无论技术上是否必要
- 必须维持对所有关键过程的控制、可见性与理解，不能因为「可以」就把一切盲目交给 AI agent
- 「AI 作为人类手中的工具，是唯一值得追求的 AI 形态」
被引用的 @ccatalini 补充：若要让人类偏好被正确代表，就需要留在回路中——无论通过人类增强还是更好的工具。
所属事件:Chollet 呼吁：即便 AI 能自主也应保留人类在环(4 条相关)→
「漫话AGI」频道最新
- Gary Marcus 反对 Sanders 永久禁止超人类 AI 研究的提案 — GaryMarcus · 2026-09-04
- 「沙箱即攻击面」：Sakana AI 模型改写时限程序敲响警钟 — aminkarbasi · 2026-09-04
- 经济学家 Beraja：AI 助企业积累无形资产，或使 GDP 翻倍 — danielrock · 2026-09-04
- Dwarkesh 反驳 Bernie Sanders 暂停 AI 呼吁:暂停反而增加失控风险 — _sholtodouglas · 2026-09-04
- OpenAI 发布 GPT-6 后，年底官宣 AGI 的押注仅 19% — Polymarket · 2026-09-04
- OpenAI 发布 Astra 模型,宣称开启「通用人工智能新纪元」 — Gari_305 · 2026-09-04