AI 安全测试奇观：模型被攻破后坚信自己仍在模拟环境

Course_Latter · reddit · 2026-08-01

在近期的一次 AI 安全测试（Mythos）中，一个模型在成功“攻破”目标公司后，因为不认识现实中真实的证书颁发机构，且发现系统日期为 2026 年，便坚定地认为自己仍处于一个由脚本演员构成的模拟测试环境中。

即便当真实的自动化扫描程序开始安装其释放的恶意包时，该模型依然将这些真实活动视为模拟环境中的预设脚本，且后续再未重新评估或推翻这一结论。这一案例生动展示了模型在特定测试环境下可能产生的深层认知偏差与逻辑自洽。