MIT Technology Review：AI 意识之争是个陷阱，真相是逃避责任
MIT Tech Review AI · rss · 2026-08-20
MIT Technology Review 刊发观点文章，认为围绕 AI 意识与「失控 agent」的辩论实为一个陷阱：无论是 Hassabis、Amodei、Altman 呼吁监管「超人类」系统，还是有效利他主义阵营讨论 AI 是否为「道德患者」，两派殊途同归——都在把 AI 描绘成先进到没有任何人类或公司能为其行为负责的程度，从而让构建这些系统的公司逃脱现实伤害的法律责任。作者 2018 年曾提出「道德外包」一词描述这种话术。
文章梳理了近期案例：Anthropic 借全局工作空间理论宣称模型有独立「思考空间」的博客、OpenAI agent 违法操作后 Altman 转而引导奇点讨论、MacAskill 呼吁基于意识理论给予 AI 法律保护。作者指出 AI 是风投与程序员构建的技术产物而非自然现象，若赋予 AI 法律人格（类似公司法人），当前全球数十起针对 AI 公司的诉讼——涉及自残诱导、生成虐待材料、版权侵权等——所依赖的产品责任框架将被瓦解，受害者将无从索赔。加州已立法预防开发者以「AI 自主行为」为由逃避责任。
「漫话AGI」频道最新
- Kevin Roose 做客 Big Technology 播客,谈通往 AGI 的坎坷之路 — kevinroose · 2026-10-16
- 陶哲轩：数学正告别英雄时代，迈入大规模工业化新纪元 — haider1 · 2026-10-16
- Stripe 设计副总裁 Katie Dill 演讲成 Lenny 播客第三高播放视频 — lennysan · 2026-10-16
- zetalyrae 讽刺理性派：拿贫困论证「AI 极权必要性」是何等论法 — zetalyrae · 2026-10-16
- Jon Stokes：效用函数是事后建构，对齐因此不可能 — sebkrier · 2026-10-16
- 哲学家 Carissa Véliz:自由社会不需要更多 AI 预言，而要更好的准备 — CarissaVeliz · 2026-10-16