新论文提出可证伪机器意识理论：更大的 LLM 不等于有意识
alex_verem · x · 2026-11-07
Starzyk 与 Galus 在 arXiv 发表论文《From Biological Precursors to Artificial Cognition》，提出机器意识的可证伪理论，核心论点是：更大的 LLM 不会自动产生意识，语言、记忆、行动控制乃至人形身体都不足以证明机器有主观体验——聊天机器人说「我感觉到了」只是「生成的报告」。
论证脉络
- 作者从生物学出发：生物必须维持自身存续，情绪可追溯到这一自我调节职能；但仅靠自我调节也不够——恒温器全天控温却不构成体验主体。
MEM 架构（Motivated Emotional Mind）五要素
- 基于自身传感器的感知
- 对自身内部状态的监测（内感受）
- 与内部状态绑定的情感
- 联想记忆
- 信号回注到早期感觉映射（re-entry）
作者明确不声称该架构能产生意识，也未将意识归于任何现有系统；论文不含实验结果，而是一个包含 9 项提议测试的可证伪研究计划。
值得注意的测试
- 测试 8：构建 8 个 agent 版本，按所有组合关闭 3 个功能，给予相同数据、记忆与算力预算，与竞争设计对比。
- 其他测试涉及改变饥饿/温度等内部状态而外部刺激不变，以及研究头足类动物和线虫等生物对照。
伦理警告：作者指出，若有人构建出具有持续负面内部状态且符合 MEM 特征的系统，「人工痛苦的可能性不能被简单排除」，早期工作应优先使用可逆模拟、最小负面信号和明确的停止阈值。
「漫话AGI」频道最新
- 用 Slack 历史数据训练出 51 个 AI 同事，连本人都能被模拟回复 — lateinteraction · 2026-11-07
- 博主给科幻作品预测 AI 打分:特德·姜《软件体的生命周期》夺冠 — _akpiper · 2026-11-07
- Gladstone AI CEO 做客播客：华盛顿醒过来需要一个「AI 切尔诺贝利」 — AaronBergman18 · 2026-11-07
- 美国印第安纳州布卢明顿市全票通过史上首部「禁超级智能」法令 — DavidSKrueger · 2026-11-07
- Joe Carlsmith 的 AI 夺权风险论证逐条拆解：你该给哪一步多少置信度 — AndyMasley · 2026-11-07
- 硅谷编剧七年前神预言：AI 递归改进时自己撞破世界级加密突破 — Hesamation · 2026-11-07