神经科学家 Erik Hoel 主张刻意造「无意识 AI」,回应十大质疑
erikphoel · x · 2026-11-22
神经科学家 Erik Hoel 在 Substack 发文《The Moral Mandate for AI Non-consciousness》,为其上周提出的「qualiaphobia」研究议程辩护,回应十项哲学与伦理质疑。
核心主张:
- 有意将 AI 架构设计为对意识理论「敌对」,从而尽可能可验证地保持非意识状态,是文明层面的必需品;
- 这样做既是防止意外造出有意识的数字心智而被「奴役」,也是防止人类把未来交给无意识机器的双向保险;
- 他认为这是一场本该在 AI 诞生之初就展开的辩论,预计六个月到两年内会成为主流议题,并呼吁意识研究者不要再学术观望,把「意识难题」变成一个紧迫的工程选择:造有意识机器随时可以推迟,但意外越过知觉阈值将造成不可逆的道德后果。
「漫话AGI」频道最新
- 高露洁用 LLM 扮演消费者生成调研数据,称准确率约 90% — ZeroStateReflex · 2026-11-22
- 哈佛团队用 AI 智能体揭示 DNA"语法"如何决定细胞命运 — anshulkundaje · 2026-11-22
- teortaxesTex 引黎曼猜想原文反驳'能解黎曼就能杀人'威胁模型 — teortaxesTex · 2026-11-22
- 用《政事论》解读 AlphaChip:自掘之矿即王座 — krishnan · 2026-11-22
- 招聘平台 2026 年 QA 岗位搜索量归零,AI 冲击测试角色 — yenkel · 2026-11-22
- 用户怒斥 Claude 的「道德保龄球护栏」:过度隐私提醒削弱判断力 — mattbeane · 2026-11-22