Anthropic 警告:一个谁都能下载的中国开源模型已能自主造攻击工具
ross2000 · reddit · 2026-09-30
Anthropic 发布警告称,一个可以公开下载的中国 AI 模型现在已经能够自主编写出可用的攻击工具(hacks),无需人工协助。这一发现引发了对开源模型被滥用于网络攻击的担忧。
- 发布方为 Anthropic,属其安全研究/威胁评估的一部分
- 讨论焦点:开源权重模型降低了高级网络攻击的门槛
所属事件:Anthropic 报告称 GLM-5.3 网络攻击能力逼近自家前沿模型,引发争议(38 条相关)→
「安全」频道最新
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16