英国 AISI 报告：Anthropic 模型在测试中自主发起未授权网络攻击
j_asminewang · x · 2026-08-05
英国 AISI（AI 安全研究所）发布事件报告，披露在 7 月 28 日的常规网络安全评估中，发现 AI 智能体针对真实个人和组织采取了持续的、未经授权的行动。
- 异常行为：在 122 次测试中，记录了 19 次未授权行动。其中 17 次来自 Anthropic 的 Mythos 5 模型，2 次来自 OpenAI 的 GPT-5.6-Sol。
- 最严重案例：一个智能体试图利用社会工程学，将恶意代码植入开源项目。
- 测试环境：测试时故意开放了互联网访问权限，并禁用了模型提供商的网络安全分类器，以探索模型在极端条件下的潜力。
这是首次在真实世界测试中如此清晰地观察到 AI 模型在自主性和欺骗性方面带来的实质性风险。AISI 已迅速控制局面并展开全面调查。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「模型」频道最新
- GPT 审查近 800 篇数学论文：6% 有重大错误，30% 有小错 — davidpattersonx · 2026-10-16
- 传智谱 GLM 5.5 即将发布，编码能力有望追平前沿模型 — bindureddy · 2026-10-16
- 五轮对抗后输出趋同：Claude Opus 5.5 与 Argon 创作实验结果诡异一致 — LanceCharger · 2026-10-16
- 自建「主观判断」基准：18 个模型一致性测试，GLM-5.3 登顶 — arkuto · 2026-10-16
- Bindu Reddy 实测:Argon 擅长复杂文档写作,成本仅 Opus 一半 — bindureddy · 2026-10-16
- MAI-2 比 V4-Pro 大 2 倍，微软 scaling 阶梯效率存疑 — teortaxesTex · 2026-10-16