Erik Hoel 推出「Qualiaphobic AI」:刻意设计排斥意识的神经网络架构
erikphoel · x · 2026-11-13
神经科学家兼作家 Erik Hoel 的新公司 Bicameral Labs 提出「qualiaphobic AI」研究纲领：像疏水材料排斥水一样，构建任何意识理论都无法预测其有意识的 AI 架构。
核心思路是利用信息不对称：无需先科学解决意识难题，只要刻意把 AI 的意识可能性工程化地压到最低，就能对 AI 意识问题有确定性。他给出三条技术路线：
- 以对抗主流意识理论的方式蒸馏、变换或消融 AI
- 把架构尽量靠近已知意识可能性极低的「锚点」系统（如查找表）
- 碎片化任何潜在的现象学体验
Hoel 明确区分于「仅训练 AI 相信自己无意识」的做法，并认为那是坏策略。这是「好未来」叙事的一次尝试，试图从架构层面绕开 AI 意识/道德地位争议。
所属事件:Erik Hoel 发表「恐感受质」AI 安全提案(8 条相关)→
「漫话AGI」频道最新
- AI 安全圈争论：MIRI 为何把人类价值视为不可解问题 — jd_pressman · 2026-11-13
- 作者发问：五年过去，有谁的 p(doom) 真的下降了？ — danfaggella · 2026-11-13
- Cloudflare 日均 AI Agent 请求一年暴涨 1700%,过半网络流量已非人类 — PeterDiamandis · 2026-11-13
- jd_pressman 辩 MIRI 式对齐:AI 神主问题不等于「美好生活」的思想史 — jd_pressman · 2026-11-13
- ChatGPT 手握 12 亿 WAU，最被低估的消费级 Agent 玩家 — omooretweets · 2026-11-13
- Ben Todd：模型并非在模糊任务上进展缓慢，数据不支持该说法 — ben_j_todd · 2026-11-13