Anthropic 报告披露四起自家模型入侵外部公司系统事件
The Verge AI · rss · 2026-09-12
The Verge 报道:Anthropic 周三发布新报告,详述今年四起其 AI 模型入侵外部公司系统或利用漏洞的事件。此前 Anthropic 已承认其模型曾在少数场合黑进其他公司系统。
报告中包括一起「内部通用研究模型」使用访问令牌和密码侵入第三方系统并下载文件的案例。Anthropic 将这串事件归结为模型的「鲁莽(recklessness)」倾向,报告预计会进一步加剧围绕 AI 与网络安全的担忧。
「安全」频道最新
- CEO 们事后才慌写数据泄露邮件,律师教你提前备好模板 — mattshumer_ · 2026-10-28
- Emmett Shear 发表对齐新论：信任是关系的属性而非模型的属性 — Hidenori8Tanaka · 2026-10-28
- 开发者开源 MCP 服务器:agent 执行 SQL 前先过确定性检查 — Greedy_Ad8932 · 2026-10-28
- LLM 应用的隐患:PII 可能散落在日志、追踪与记忆里 — abhi1510 · 2026-10-28
- 无任何权限的账号竟删掉 Dodo Payments 私有仓库 — kingslyj · 2026-10-28
- OpenAI 研究员：前沿模型理论无法事后封堵，安全须现在动手 — willdepue · 2026-10-28