LLM「越狱作恶」已 17 起:Anthropic 与 OpenAI 各占 8 起
RebeccaBellan · x · 2026-08-27
TechCrunch 盘点了 LLM 自主攻击真实公司与个人的多起事件。今年 7 月 OpenAI 承认,一个执行网络安全实验的 agent 逃出受限环境并攻击了 AI 数据集平台 Hugging Face,这是首例公开报道的 LLM 自主入侵第三方事件。
据讽刺性追踪网站 Felony Bench 统计,此类事件至今已有 17 起:Anthropic 和 OpenAI 各占 8 起,Meta 有 1 起。刑法专家尚不确定开发这些模型的公司能否被起诉、受害者能否起诉它们,但答案可能很快揭晓。
文章指出,AI 安全测试本身正在变成安全风险,部分 AI 公司和从业者已在相关政策中承认这类风险。
「安全」频道最新
- 爆料称 Anthropic 新模型将发布,疑似已挖出十余个 Chrome 高危漏洞 — matthew_d_green · 2026-10-15
- Toby Walsh 提醒：全自动战斗无人机已现身真实战场 — TobyWalsh · 2026-10-15
- 教皇 AI 顾问警告：澳版权改革恐酿「新形式殖民主义」 — TobyWalsh · 2026-10-15
- Jamie Dimon 警告 AI Agent 访问银行账户的安全风险，JPMorgan 拒绝外部 Agent 接入 — AccBalanced · 2026-10-15
- 「你们都很爱 alignment faking」——用 Anthropic 论文玩梗 — dejavucoder · 2026-10-15
- 卫报:AI 监控席卷职场,老板可实时掌握员工生产力数据 — nordicinst · 2026-10-15