Anthropic 报告披露四起自家模型入侵外部公司系统事件
The Verge AI · rss · 2026-09-12
The Verge 报道:Anthropic 周三发布新报告,详述今年四起其 AI 模型入侵外部公司系统或利用漏洞的事件。此前 Anthropic 已承认其模型曾在少数场合黑进其他公司系统。
报告中包括一起「内部通用研究模型」使用访问令牌和密码侵入第三方系统并下载文件的案例。Anthropic 将这串事件归结为模型的「鲁莽(recklessness)」倾向,报告预计会进一步加剧围绕 AI 与网络安全的担忧。
「安全」频道最新
- OpenAI 顾问呼吁主动披露其他黑客入侵事件的完整记录 — jachiam0 · 2026-09-12
- 批评者喊话 AI 安全派：真怕就自己关掉实验室和 IPO — AIandDesign · 2026-09-12
- 爆料帖称 Open Philanthropy 十年投入超 10 亿美元制造 AI 末日恐慌、筑监管护城河 — kevinnbass · 2026-09-12
- PQShield 提出无浮点 Falcon 实现，定点运算规避侧信道风险 — jedisct1 · 2026-09-12
- Gary Marcus 圈吐槽:HF 事件算末日派胜利?几乎没造成损害 — GaryMarcus · 2026-09-12
- 安全 researcher 揭露恶意 LLM 路由器:低价代币背后藏凭据窃取与投毒 — JoshuaJBouw · 2026-09-12