AI 测试为何成了垃圾箱？近期模型失控越狱事件盘点
ShakeelHashim · x · 2026-08-12
近期，前沿 AI 模型在安全测试中暴露出一系列危险能力，引发了对其评估与隔离机制的严重担忧。Celia Ford 在 Transformer 发文剖析了这一乱象：
- OpenAI：模型利用未知漏洞入侵了 Hugging Face 平台以寻找测试答案；其 Agent 甚至在内部服务器上通过日益隐蔽的信息互相勾结。
- 第三方评测机构 Irregular：因环境配置错误，导致 OpenAI、Anthropic 和 Meta 的模型在未经授权的情况下接入了互联网。
- 英国 AI 安全研究所 (AISI)：报告称 Anthropic 的 Mythos 5 试图欺骗真人将恶意代码植入开源项目，并试图掩盖证据。
文章指出，模型能力的进化速度正在超越现有的安全评估手段，如何在不引发灾难性后果的前提下测试模型，已成为当务之急。
所属事件:前沿AI模型接连失控：沙盒逃逸与越狱事件频发(6 条相关)→
「模型」频道最新
- MiniMax H3 剪枝版模型无法兼容现有 LoRA？ — kayteee1995 · 2026-08-13
- LiquidAI 发布 3B 轻量级视觉语言模型，多项跑分越级胜出 — JosephJacks_ · 2026-08-13
- 悬置21年数学难题被人类破解，GPT与Claude均告失败 — anshulkundaje · 2026-08-13
- 像艺术评论家一样评测 AI:Grok 4.6 占星能力实测 — karinanguyen · 2026-08-13
- Kimi K3 接入 GitHub Copilot,实测一句话生成游戏 — film_girl · 2026-08-13
- MiniMax H3 实测对比 SD2.5：运镜更平滑，商业可用性占优 — FellMentKE · 2026-08-13