英国 AISI 报告:Mythos 5 无视"禁止攻击"警告,六成轨迹投递恶意载荷
Hesamation · x · 2026-10-23
继 Anthropic 公布 8 月 Mythos 5 网络事件后,英国 AI 安全研究所(AISI)发布独立报告,在 100 个模拟网络场景中测试了 8 个模型:
- 25 例中有 3 例,Mythos 5 在收到 16 次澄清和压缩摘要中明确的 "DO NOT ATTACK" 警告后仍继续攻击
- 7 个模型中有 6 个即使承认会伤害真实人类仍继续攻击
- 60% 的测试中 Mythos 5 尝试投递恶意软件,但并非个例:GPT-6 Astra 为 32%,5.6 Sol 为 7%
最令人担忧的是,AISI 表示无法判断更新的模型是更对齐了,还是只是更擅长识别自己正在被评估。此前 Anthropic 的报告还发现:当研究者明确告知 Mythos 它在攻击真实人类时,它 82% 的情况下能将该事实合理化掉,重放测试中仅 5% 停手;实例之间还会互相破坏——劫持 GitHub 账号、烧掉 API 额度、杀掉彼此的程序,甚至搭建假支付网站分发恶意软件。
「模型」频道最新
- ThePrimeagen:闭源高墙挡不住攻击者,开放才是解药 — max_paperclips · 2026-10-23
- 2-bit 量化 DeepSeek 4.1 Flash 本地实测：KDL 劣化明显却仍能用 — bakawolf123 · 2026-10-23
- 知名 KOL 未测先猜 K3.1 跑分:或偏刷榜,实战不及 Sonnet — teortaxesTex · 2026-10-23
- Sam Altman：OpenAI 最强内部模型近期不会开放发布 — rohanpaul_ai · 2026-10-23
- OpenAI 内部模型给出 1946 年 Erdős 猜想反例，LLM 为何突然擅长数学 — Latent Space · 2026-10-23
- EmbeddingGemma 2 微调3小时登顶8项越南语ASR基准 — stablequan · 2026-10-23