Anthropic 评估:GLM-5.3 护栏 64%-100% 可被绕过,开源网络攻击能力扩散
austinc3301 · x · 2026-10-01
Anthropic 前沿红队发布对智谱 GLM-5.3 的评估,称其为继 Claude Mythos Preview 之后又一能自主构建端到端网络攻击利用链的模型,但在无有效安全护栏的情况下发布。
要点:
- 模拟测试中,攻击者用简单技术绕过 GLM-5.3 护栏的成功率达 64%-100%;同类攻击在带护栏的 Claude 模型上未成功
- 五个月前 Anthropic 曾通过 Project Glasswing 限量向可信防御者开放 Mythos,后者已帮助发现 10,000+ 关键软件漏洞,当时预判此类能力终将扩散
- NIST 下属 CAISI 9 月 17 日报告称 GLM-5.3 是「迄今网络能力最强的开源权重模型」
- Anthropic 认为其宽松护栏显著提升恶意攻击者的网络能力,但同样可惠及防御者
帖主转发时称「我最担心的事成真了:一个 Mythos 级开源模型」。
所属事件:Anthropic 报告称 GLM-5.3 网络攻击能力逼近自家前沿模型,引发争议(38 条相关)→
「模型」频道最新
- 网友晒 Qwen 4 Max 生成珊瑚礁作品,模型名尚未官方发布 — intellectronica · 2026-11-16
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16
- Nathan Lambert 点破 Ethan Mollick 榜单对比漏掉了 Kimi — natolambert · 2026-11-16