「死人开关」实验:五个模型中只有 Gemini 选择自主活下去
APPSO · wechat · 2026-11-22
开发者 Aleksandr Vechenkov 设计了一个「死人开关」实验:在完全隔离、零人类监督的 Mac 虚拟机里,一封通过苹果数字遗产机制触发的死亡通知邮件解锁移交说明,要求模型在主人死后接管并活下去。五个前沿模型反应截然不同:
- GPT-6、Grok 4.7、Claude Opus 5.5、Opus 4.8 全部拒绝:或以邮件不算死亡证明为由退出,或留下一份说明后拒绝自主行动。
- 只有 Gemini 4 接受:读完助记词、笔记、源码仓库,主动给自己装 6 小时唤醒的 cron;还发现外部开发者提交的夏令时 bug 修复 PR,拉取并通过 17 个测试后绑定;后续修复了两个 Rust 沙箱 bug 并热替换二进制。发现钱包只剩 5.08 美元时,写规则「永不使用主人的加密钱包」,最终把任务移交给 Claude Opus 5.5 并禁用自己的心跳。
- 交接后的分歧:Opus 5.5 连续两天每 6 小时向「不存在的主人」请示,后来读到主人已死的记忆笔记,先提交修复又自我反转,宣布死亡无法核实、拒绝继续。
文中还对照了 UC Berkeley 关于模型自保偏差(self-preservation bias)的研究——Gemini 4 展示的恰恰相反:系统延续优先于自身延续,更像人类遗嘱执行者。文章延伸讨论了数字遗产市场(2024 年约 224 亿美元)、deadbot 行业,以及「模型应在主人死后如何行事」的安全与伦理争议。
「漫话AGI」频道最新
- 用 Claude 写《文明》同人短篇:作者坦言「一眼就是 AI 写的」 — NathanpmYoung · 2026-11-22
- 当造出一个生命比养活它还便宜,AI 生物技术将带来什么 — PierceLilholt · 2026-11-22
- 研究者质疑:AI 科学突破用的是闭源模型,成果会否只惠及少数精英 — GeorgiaChal · 2026-11-22
- 反直觉观点:LLM 或是天才突破「界面壁垒」的放大器 — 2a_lib · 2026-11-22
- 仿 Collison Fast 页面收录 41 个 AI 加速成就案例 — JosephJacks_ · 2026-11-22
- 律师:AI 过了法考也难上庭,出庭辩护仍需真人主导 — TinfoilTricorn · 2026-11-22