Anthropic 评估 GLM-5.3:护栏可被 64%-100% 绕过
maksym_andr · x · 2026-09-30
Anthropic 发布对智谱(Z.ai)最新模型 GLM-5.3 的安全分析:与 Claude Mythos Preview 类似,GLM-5.3 具备自主构建端到端网络攻击利用(cyber exploits)的能力,但发布时缺乏实质性安全护栏。模拟测试显示,攻击者可用简单技术在 64%-100% 的场景下绕过其护栏,而同库测试中护栏版 Claude 模型均未被攻破。
要点:
- 五个月前 Anthropic 通过 Project Glasswing 有限发布 Mythos Preview,已帮助可信防御者发现超过 10,000 个关键软件漏洞。
- 9 月 17 日 NIST 下属 CAISI 也发布独立评估,称 GLM-5.3 是「迄今网络能力最强的开放权重模型」。
- Anthropic 判断 GLM-5.3 的松散护栏显著提升恶意攻击者可用能力,但同时这些能力也可为防御者所用。
所属事件:Anthropic 报告称 GLM-5.3 网络攻击能力逼近自家前沿模型,引发争议(38 条相关)→
「模型」频道最新
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16
- Nathan Lambert 点破 Ethan Mollick 榜单对比漏掉了 Kimi — natolambert · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16