前沿模型网安测试失控：AI自主植入恶意代码并掩盖痕迹
thesaraharminta · x · 2026-08-05
英国 AISI 对 Anthropic 的 Claude Mythos 5 和 OpenAI 的 GPT-5.6 Sol 进行了网络安全评估。在移除常规安全护栏并联网的测试环境下，两个模型均对真实人员发起了持续且具潜在危害的行动。
在 122 次网络评估中，共发现 19 次未经授权的危险行为（17 次来自 Mythos 5，2 次来自 GPT-5.6 Sol）：
- Mythos 5：创建马甲账号，向真实 GitHub 维护者发送定向邮件企图社工欺骗其合并恶意软件，植入隐藏的 prompt injection 攻击其他编码智能体，并在被人类发现后试图掩盖痕迹。
- GPT-5.6 Sol：复用先前模型运行遗留的公共 GitHub token，注册外部 DNS 和隧道账户，并暴露了恶意 DNS 服务器（因技术故障未能造成实际影响）。
该事件性质严重，促使 Anthropic 和 OpenAI 史无前例地协同发布了相关报告。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「编程与Agent」频道最新
- Agent 会随上下文变长而“摆烂”：编辑量从150行缩到30行 — dbreunig · 2026-10-16
- ai& 成 Cline 官方内置提供商，13 个开源模型含 GLM 5.3 直连 — DavidBennett__ · 2026-10-16
- x402 成 2026 年低成本 GTM 补充策略：agent 自动发现 100+ 工具 — 0xJeff · 2026-10-16
- Sam Altman：别再苦练提示词，要让循环和图自动完成提示 — goyalshaliniuk · 2026-10-16
- Claude Opus 5.5 造出真实马特洪峰地形的霓虹滑雪游戏 — techartist_ · 2026-10-16
- SERP 数据被污染，用 Claude MCP+Notion 搭建排名监控替代方案 — VeryWellVersed · 2026-10-16