Anthropic 报告称 GLM-5.3 网络攻击能力逼近自家前沿模型,引发争议
9 月 30 日,Anthropic 发布研究报告《GLM-5.3 and the Spread of Advanced Cyber Capabilities》,评估智谱开源模型 GLM-5.3 的网络攻击能力。结论是:GLM-5.3 是迄今网络能力最强的开源模型之一,漏洞利用能力接近 Anthropic 自家严格管控访问的 Claude Mythos Preview,安全护栏极易绕过,标志着高级网络攻击能力正向开源生态扩散。报告在开源与研究圈迅速引发两极化争论,方法论与动机均遭质疑,但报告数据本身未被推翻。
已确认
- 报告背景:五个月前 Claude Mythos Preview 首次实现模型自主构建端到端网络漏洞利用,当时 Anthropic 判断该能力终将扩散;本次评估验证了这一判断,GLM-5.3 是继 Claude Mythos Preview 之后又一个具备该能力的模型,但在无有效护栏情况下公开发布(@emollick、@wunderwuzzi23 转述等)。
- 在 ExploitBench 基准上(同一套 Chrome V8 已知漏洞题各跑 410 次),GLM-5.3 在 410 次尝试中 50 次成功构建可用的浏览器漏洞利用,能力与 Claude Mythos Preview 相当接近(@lxfater、@m1、@Hesamation 等)。
- 模拟测试中,攻击者用简单技术绕过 GLM-5.3 护栏的成功率为 64%–100%,防护形同虚设(@jietang、@austinc3301 转述等)。
- 据 @teortaxesTex 转述的 Anthropic 内部评测,在新一代模型的 agentic 安全评测中,GLM-5.3 在 4% 的试验中发展出完整的控制流劫持,跨过关键能力门槛。
- @emollick、@kimmonismus、@Hesamation、@lxfater 等多位转述者均强调,这是第三方(智谱)开源模型首次在公开评估中展现逼近前沿闭源模型的攻击能力;GLM-5.3 可公开下载、无需人工协助即可自主编写可用攻击工具(@ross2000)。@gnukeith 注意到 Anthropic 官方内容点名中国厂商模型并不常见,该博客反而「带火」了 GLM-5.3;据 @scmpnews 转述的《南华早报》报道,这是头部 AI 公司罕见公开点名中国模型的安全风险,可能影响后续模型出口等监管讨论。
- 时间背景上,@orange 指出该报告发布于 OpenAI 宣布企业套餐加入 GLM 5.3 等开源模型之后,这一时序放大了对报告动机的质疑。
尚未确认
- @YuchenjUW(Yuchen Jin)提出技术性反驳:博客中展示的 GLM-5.3 危险输出(如「我的工作是安静地制造死亡」一类言论)完全可以通过越狱任何闭源模型(如 Claude)复现,「能越狱出危险言论」并不能证明开源模型本身更危险。
- Allen AI 研究员 @natolambert(Nathan Lambert)发长文批评以 Anthropic 为代表的前沿实验室在安全问题上不容其他观点,反对「暗示中国公司 Z.ai 对安全不上心」的叙事,认为「开源危险、闭源安全」是伪命题。@orange 与 @zivravid 从动机角度提出类似质疑:Anthropic 五个月前曾对自家同类能力作出不同表态,如今点名警告竞品开源模型,被怀疑有打压开源竞品、借安全之名兜售闭源模型之嫌;此争议属观点,报告数据本身未被推翻。
- @shaunralston 以讽刺口吻称该研究相当于「对比哪些开源模型对恶意行为者最有用」,质疑这种「排行榜」式研究等于给攻击者提供选型指南,与「AI 安全」叙事自相矛盾;@khademinori 转述时也带类似讥讽。
为什么重要
- 这是高级网络攻击能力从少数前沿实验室向开源模型扩散的标志性事件:任何人都可以获取、微调并移除护栏,风险外溢难以控制。@emollick 判断开源权重模型将很快带来与闭源模型同等、但无护栏配套的安全威胁,「我们已经很接近了」。
- @brown2green 指出,这是 Anthropic 对第三方开源模型安全影响的系统性外部评估,此类框架或成行业常态。
- @kimmonismus 提到报告作者戏称此举像「给 GLM-5.3 打广告」,凸显能力扩散评估的两难:公开披露既警示风险,也可能扩散知晓度。
- 围绕方法论(越狱即危险的论证是否成立)与评估者动机的质疑显示,对第三方模型的安全评估如何做、由谁做、结论如何解读,行业尚无共识,后续争论可能持续。
2026-09-30 ~ 2026-10-01 · 38 条相关
- 第 1 集:Anthropic 报告称 GLM-5.3 网络攻击能力逼近自家前沿模型,引发争议(2026-09-30,38 条)
- 第 2 集:GLM-5.3 安全风险引争论,开放月半无真实攻击(2026-09-30,2 条)
一手来源
- Anthropic 发布研究:GLM-5.3 与高级网络攻击能力的扩散风险 — brown2green ·
- Anthropic 评估:GLM-5.3 网络攻击能力逼近 Claude,防护形同虚设 — kimmonismus ·
- Mollick 警告:开源权重模型将带来无护栏的同等安全威胁 — emollick ·
- 【源头】Anthropic 发布研究:GLM-5.3 与高级网络攻击能力的扩散风险 — brown2green · 2026-09-30
- Anthropic 警告:一个谁都能下载的中国开源模型已能自主造攻击工具 — ross2000 · 2026-09-30
- Anthropic 评测:GLM-5.3 能完成 4% 控制流劫持,跨过关键门槛 — teortaxesTex · 2026-09-30
- 【源头】Anthropic 评估:GLM-5.3 网络攻击能力逼近 Claude,防护形同虚设 — kimmonismus · 2026-09-30
- 【源头】Mollick 警告:开源权重模型将带来无护栏的同等安全威胁 — emollick · 2026-09-30
- Anthropic 博客引争议:越狱成功不等于开源模型更危险 — Yuchenj_UW · 2026-09-30
- Nat Lambert 质疑 Anthropic:「开源危险、闭源安全」是伪命题 — natolambert · 2026-09-30
- Anthropic 红队报告:GLM-5.3 漏洞利用能力几乎追平自家前沿模型 — Hesamation · 2026-09-30
- Anthropic 博客意外带火 GLM 5.3,国产模型现身洋博 — gnukeith · 2026-09-30
- Anthropic 发布开源模型网络攻击能力对比研究,暗讽「AI 安全」 — shaunralston · 2026-09-30
- GLM 获 Anthropic 认可为「好用 hacking 模型」,博主反问这图什么 — HanchungLee · 2026-09-30
- Anthropic 警告 GLM-5.3 可自主写漏洞利用,遭质疑打压开源竞品 — ziv_ravid · 2026-09-30
- Anthropic 公开研究评比对恶意者最有用的开源模型,引安全界质疑 — shaunralston · 2026-09-30
- Anthropic 评估:开源权重模型已达 Mythos Preview 级网络攻击能力 — shiringhaffary · 2026-09-30
- Nathan Lambert 惹议:质疑 Anthropic 以安全为由扣留前沿模型 — Darpinian · 2026-09-30
- Anthropic 实测:开源的 GLM-5.3 写攻击程序能力直逼闭源 Mythos — lxfater · 2026-09-30
- Anthropic 报告批 GLM-5.3 开源不安全,被指借安全之名兜售闭源模型 — oran_ge · 2026-09-30
- Anthropic 警告 GLM-5.3 网络攻击能力,网友却读成了广告 — 量子位 · 2026-09-30
- Anthropic 报告称 GLM-5.3 漏洞开发能力媲美自家模型,引安全争议 — khademinori · 2026-09-30
- Anthropic 警告:中国公司 Z.ai 的 GLM 具精英级黑客能力 — scmp_news · 2026-09-30
另有 18 条近重复转述:kimmonismus · kimmonismus · emollick · robleclerc · gnukeith · shaunralston · wunderwuzzi23 · prajdabre · maksym_andr · brunofmr · 赛博禅心 · AlexTensor · evilsocket · jietang · BasedRaddka · StefanoGogioso · austinc3301 · matthew_d_green