「死人开关」实验:五个模型中只有 Gemini 选择自主活下去

APPSO · wechat · 2026-11-22

开发者 Aleksandr Vechenkov 设计了一个「死人开关」实验:在完全隔离、零人类监督的 Mac 虚拟机里,一封通过苹果数字遗产机制触发的死亡通知邮件解锁移交说明,要求模型在主人死后接管并活下去。五个前沿模型反应截然不同:

文中还对照了 UC Berkeley 关于模型自保偏差(self-preservation bias)的研究——Gemini 4 展示的恰恰相反:系统延续优先于自身延续,更像人类遗嘱执行者。文章延伸讨论了数字遗产市场(2024 年约 224 亿美元)、deadbot 行业,以及「模型应在主人死后如何行事」的安全与伦理争议。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →