Chollet：即使 AI 能自主也不该自主，人类须留在关键流程

Keras 之父、ARC 基准作者 François Chollet 于 9 月 4 日连续发文，系统阐述了他对 AI 自主性的立场：即使 AI 发展出高度自主的能力，也不应让它高度自主，人类应有意识地保留对关键流程的控制。这一表态来自长期研究 AI 能力测评的人物，且明确主张部署边界应由价值观驱动而非能力驱动，因而值得关注。

已确认

• Chollet 主张在经济社会所有关键流程中刻意保留人类在环（human in the loop），无论技术上是否必要。
• 他强调必须维持对关键流程的控制、可见性与理解，而非盲目推进自动化。
• 在补充观点中他提出：长期以来 AI 部署的边界只由技术能力定义，但随着 AI 快速进步，「我们想要塑造什么样的世界」应成为一种刻意、集体的选择，而不是默认跟随能力上限。
• @paraschopra 转述并附和了这一观点（转发性质，无独立新增事实）。

为什么重要

• 这是一套完整的「能力≠许可」论述：Chollet 将 AI 自主性问题从技术可行性层面转向社会选择层面，即部署与否应取决于人类想要的世界形态。
• 来自 ARC 基准作者的这一立场，为正在争论 AI 自主代理风险的社区提供了一个有影响力的参照点，也呼应了「保留人类监督权」这一治理思路。

2026-09-04 ~ 2026-09-04 · 5 条相关

• 【源头】Chollet 呼吁:即便 AI 有能力自主,也应强制保留人类在环 — fchollet · 2026-09-04
• 【源头】Chollet 补充：AI 部署边界不该只由技术能力决定 — fchollet · 2026-09-04

另有 3 条近重复转述:fchollet · fchollet · paraschopra