Erik Hoel 创立 Bicameral Labs,打造「恐感受态」的证明无意识 AI 架构
erikphoel · x · 2026-11-23
Mustafa Suleyman 表示希望「机器有意识」这一预测失败,认知科学家、《The Celestial Art》作者 Erik Hoel 回应:与其祈祷它失败,不如做技术方案——并附上 Bicameral Labs 的论文「Qualiaphobic Artificial Neural Networks」。
论文核心主张:
- 提出「qualiaphobic AI」:刻意让神经网络架构敌视主流意识理论,尽量靠近意识潜力极低的「锚点」系统(只有行为主义意识理论能适用的系统),碎片化任何可能的现象学,并对流行意识理论做对抗性设计。
- 让 AI 能形成关于「自己无意识」的正当信念,并探讨这如何改变其行为。
- 论证意义在于道德对齐:意识是道德价值的核心,若 AI 确定无意识,那么 AI 服务人类在道德上永远正确,不会追求自身目的——比现在的不确定性世界更安全。
Hoel 是有分量的独立研究者,这一方向罕见且具话题性。
「安全」频道最新
- 哈佛法学院提出「犬类框架」:按驯化程度为自主 AI Agent 定责 — bigdata · 2026-11-23
- 评论称 OpenAI 在透明度上反超 Anthropic 的看家领域 — shakoistsLog · 2026-11-23
- 开源 MCP 服务 Aletheia Aegis:0.02ms 确定性检查拦截模型输出泄漏 — Fuzzy-Ad9840 · 2026-11-23
- P≠NP 也救不了密码学:量子与量子引力计算才是真正威胁 — jamestagg · 2026-11-23
- 在 200 万条 AI 请求里埋蜜罐:3 家托管商沦陷,零数据保留承诺形同虚设 — ccerrato147 · 2026-11-23
- prompt2pwn 攻防活动收官:5 个大目标+CTF 被评最有趣 — rez0__ · 2026-11-23