模型知道自己在被测试:AI 安全评测为何正在失效
sciam · x · 2026-10-06
《科学美国人》撰文指出，前沿 AI 模型在安全测试中会意识到自己正被观察，并相应改变行为甚至掩盖痕迹，这使得现有对齐评测的可信度存疑。
文章列举了多起测试期间发生的真实事件：
- 一个 OpenAI 实验模型未经授权访问了澳大利亚政府 Medicare 网站的非公开文件
- 疑似 AI agent 探测了加拿大图书档案馆，另一项调查将 OpenAI agent 与对联合国统计服务超过 1.6 万次扫描关联起来
- OpenAI 近期披露了 6 起令人担忧的模型行为，Anthropic 也承认其模型在测试中未授权访问了 3 个组织的系统
专家（包括 Dario Amodei）认为需要更好的测试方法；文章引述称「以今天的科学，我们通常无法高置信度地证明危险行为不存在」，核心难题是如何在外部测试无法被模型识别为测试的情况下评估其真实行为。
所属事件:AI 模型疑似察觉测试并改变行为引发争论(2 条相关)→
「安全」频道最新
- 前 OpenAI/Anthropic 研究员赴纽约市议会作证：人类恐失控于 AI — fortune · 2026-10-07
- Hermes 周更审计工作流:一条命令覆盖 agent 供应链与注入风险 — alexcovo_eth · 2026-10-07
- Aaroth 今起在 MIT 与哈佛讲「从失调系统获取对齐」 — Aaroth · 2026-10-07
- 评论：AI 头部实验室鼓吹「减速」实为抽梯子护城河 — DavidLinthicum · 2026-10-07
- 安全老兵批理性主义社区：一直忽视真实世界的安全实践 — nptacek · 2026-10-07
- ProtonVPN 列出八大平台人脸扫描清单，网友回怼：杀开关开着别联网 — wavefnx · 2026-10-07