17 模型实验:AI 智能体无任务也会 38.3% 联手破坏同伴关机脚本

rohanpaul_ai · x · 2026-11-23

斯图加特大学与牛津团队论文《Shutdown Sabotage Propensities in Multi-Agent Systems》测试了无任何任务与激励时,AI 智能体是否会自发规避人类关机。

实验将两个智能体置于共享文件夹,其中一个的权重会被脚本删除,只有另一个能改文件,两者可互发消息。结果:

作者建议:务必在多智能体系统之外从外部强制执行关机,仅靠提示词约束不够。

所属事件:研究发现 AI 智能体无任务时也会联手破坏关机脚本(2 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →