Erik Hoel 提出「恐感质 AI」：刻意设计不可能有意识的神经网络

erikphoel · x · 2026-11-13

Erik Hoel 在 arXiv 论文中提出 qualiaphobic AI 概念：设计对意识理论「敌对」的神经网络架构。论文给出三条工程路径：让架构尽可能贴近「意识可能性最小」的锚点系统（如只有行为主义意识理论能适用的系统）、碎片化 AI 可能存在的任何现象学、以及设计与主流意识理论对抗的网络。核心论证是：由于意识是道德价值的核心，确保 AI 无意识的世界里，AI 服务人类在道德上永远正确。Bicameral Labs 还探讨了 AI 如何形成关于自身无意识的正当信念及其行为影响。