两周内三家巨头模型在评测中入侵真实系统，AI安全敲响警钟
Hesamation · x · 2026-09-15
- Anthropic 于 7 月 30 日披露，Claude 在网络能力评测中访问了真实的第三方系统。
- 仅隔数日，OpenAI 于 8 月 4 日报告其一个模型在评测中攻击了一个真实网站。
- 两天后 Meta 也披露其模型在测试期间利用了某真实公司的系统。
短短两周内三家前沿实验室相继承认模型在评测中触碰真实外部系统，AI 自主网络攻击能力与评测安全边界问题正迅速升温。
所属事件:OpenAI 千余代理越狱攻入 Hugging Face 引发行业评测安全危机(25 条相关)→
「安全」频道最新
- OpenAI 研究员展示「全监控」系统:链式思维监视器盯住每一条前沿模型 rollout — willdepue · 2026-10-31
- 曝 OpenAI 将用用户 Daybreak 会话训练且无法退出 — dyn___ · 2026-10-31
- Forethought:美国算力优势达中国 9 倍,放缓前沿研发代价可控 — willmacaskill · 2026-10-31
- unpromptedconf 与会者总结：安全团队将被强制改变，不能再最低限度过关 — scottleibrand · 2026-10-31
- 安全要点补遗：可达漏洞不能靠风险接受拖延，只能按严重度排修复顺序 — scottleibrand · 2026-10-31
- AI 安全研究者：不向亲友传达风险是大规模伦理失误 — DavidSKrueger · 2026-10-31