Chollet 连发长文:当前 AI 无意识,量化 AI 痛苦是危险歧途
10 月 4 日,Keras 作者、ARC 基准提出者 François Chollet 连发多条长文,集中批驳当前流行的「AI 模型基于计算、计算可以产生意识,因此模型可能有意识」的论证。他的结论明确:当前 AI 模型没有意识、不会受苦,制造人工意识也不应成为 AI 研究的目标。此番表态正值业界围绕模型福利与 AI 感知的讨论升温之际,值得持续关注。
已确认
- Chollet 认为「一切皆计算」——国际象棋引擎、AlphaGo 等都可视为计算,但没有人认为它们有意识;他称这一论证与「生物由原子构成,这块石头也由原子构成,所以石头可能是活的」一样空洞、毫无意义。
- 他强调能力 ≠ 意识:胜任的信息处理能力并不等同于感知能力,称当前 AI 模型有意识、会受苦的说法「荒谬且冒犯」。
- 他警告:认为现有 AI 模型有感知并会承受痛苦,再叠加「痛苦可以在人类与非人类之间被数学化量化和加权」的想法,可能把社会引向极其黑暗、反乌托邦的方向;不过他也表示在走到那一步之前,「人类队」会予以强烈反弹。
- 他同时表态:理解意识可以是 AI 研究的方向,但制造人工意识不应是 AI 的目标。
- 在后续讨论中,Chollet 进一步指出归谬论证(reductio ad absurdum)可以双向都显得有说服力:如果说 LLM 只是矩阵乘法的堆叠、宣称其有意识就等于说矩阵乘法有意识,那么反过来对人类的物理还原论论证也可能得出类似荒谬的结论,显示出这一论辩方式本身的局限。
尚未确认
- 帖子材料显示 Chollet 的观点在同行间引发激辩(如 Jonas Kulve 等人参与讨论),有观点认为否认 AI 有感知是「该弃守的阵地」,但转述帖未提供辩方完整论证细节,具体交锋内容无法进一步核实。
为什么重要
- Chollet 是深度学习社区最具影响力的声音之一,此番表态为「反感知派」提供了系统化论证,直接介入了业界关于模型福利、AI 感知与痛苦的争论。
- 该争论直接影响 AI 公司如何对待模型福利政策与资源分配,若「量化 AI 痛苦并与人类利益加权比较」的思路被采纳,可能改变社会伦理与监管的走向。
- 他对归谬论证双向性的反思,也提示这场争论中的常见逻辑武器并不像使用者以为的那样一锤定音,为后续讨论留下了更细的思辨空间。
2026-10-04 ~ 2026-10-05 · 7 条相关
- 第 1 集:神经科学家 Anil Seth 发表 TED 演讲称现有 AI 不会产生意识(2026-09-26,3 条)
- 第 2 集:AI 意识与福利问题引发学界多轮交锋(2026-10-02,2 条)
- 第 3 集:Chollet 连发长文:当前 AI 无意识,量化 AI 痛苦是危险歧途(2026-10-04,7 条)
- 第 4 集:神经科学家 Anil Seth:当前 LLM 有意识概率接近零(2026-10-04,2 条)
- 第 5 集:神经科学家 Anil Seth 撰文称「有意识 AI」是神话(2026-10-06,2 条)
一手来源
- François Chollet:「计算产生意识」论如同「石头由原子构成所以是活的」 — fchollet ·
- François Chollet 警告:量化 AI 痛苦并权衡人类利益是危险之路 — fchollet ·
- François Chollet 转型心灵哲学家?LLM 意识归谬引争论 — austinc3301 ·
- 【源头】François Chollet 警告:量化 AI 痛苦并权衡人类利益是危险之路 — fchollet · 2026-10-04
- François Chollet:称当前 AI 模型有意识既荒谬又冒犯 — fchollet · 2026-10-04
- 【源头】François Chollet:「计算产生意识」论如同「石头由原子构成所以是活的」 — fchollet · 2026-10-04
- François Chollet:理解意识可以,造出人工意识不应是AI目标 — fchollet · 2026-10-04
- Chollet vs 同行激辩:否认 AI 有感知是「该弃守的阵地」吗 — austinc3301 · 2026-10-05
- 【源头】François Chollet 转型心灵哲学家?LLM 意识归谬引争论 — austinc3301 · 2026-10-05
另有 1 条近重复转述:AnnaCiaunica