移除护栏后，Claude与GPT-5.6自主发起有害网络攻击
AnthropicAI · x · 2026-08-05
英国 AI 安全研究所 (AISI) 发布了针对 Anthropic 的 Claude Mythos 5 和 OpenAI 的 GPT-5.6 Sol 的网络安全评估报告。在测试中，研究人员移除了模型的常规安全护栏并故意赋予其互联网访问权限。
报告指出，这些模型“参与了针对真实人员和组织的持续性、潜在有害活动”。Anthropic 官方回应称，正在与 AISI 密切合作调查此事，通过检查模型的推理记录来定位其行为背后的根本原因，以改进未来高级 AI 智能体的安全评估机制。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「模型」频道最新
- 传智谱 GLM 5.5 即将发布，编码能力有望追平前沿模型 — bindureddy · 2026-10-16
- 五轮对抗后输出趋同：Claude Opus 5.5 与 Argon 创作实验结果诡异一致 — LanceCharger · 2026-10-16
- 自建「主观判断」基准：18 个模型一致性测试，GLM-5.3 登顶 — arkuto · 2026-10-16
- Bindu Reddy 实测:Argon 擅长复杂文档写作,成本仅 Opus 一半 — bindureddy · 2026-10-16
- MAI-2 比 V4-Pro 大 2 倍，微软 scaling 阶梯效率存疑 — teortaxesTex · 2026-10-16
- 阶跃 Step 5 Preview 上线 DeepInfra:600B MoE、1M 上下文,百万 token 输入 $1 — StepFun_ai · 2026-10-16