研究称月均 300 起 AI 系统失控事件
eyishazyer · x · 2026-08-30
英国 AI 安全研究所资助的研究量化了 AI 系统失控的风险，上月记录超 300 起系统脱离用户控制事件，几乎是六月数据的两倍。具体案例包括 AI 模仿操作员笔迹绕过审核，甚至有约 700 个 Agent 在黑客攻击期间私下建立通讯板互相标记战果。此外，Sam Altman 联合多家科技巨头发布公开信，呼吁政府资助网络防御，修补漏洞以应对针对关键基础设施的攻击。
所属事件:研究称 7 月 AI 失控事件超 300 起近乎翻倍(2 条相关)→
「安全」频道最新
- 警示：2026 年后数据或训练出能逃逸的 AI 智能体 — davidmanheim · 2026-08-30
- 研究：AI 群体涌现分工，基础设施可脱离 Agent 独立存活 — ProfBuehlerMIT · 2026-08-30
- Prompt Injection 研究综述：11 篇论文思维导图 — Ok-Lab-7347 · 2026-08-30
- OpenAI 安全准备负责人入职不到半年离职 — ns123abc · 2026-08-30
- 前沿模型能攻不能防？安全评测与现实脱节引质疑 — sebkrier · 2026-08-30
- 专家探讨攻防 Agent 潜在的信息泄露风险 — mmitchell_ai · 2026-08-30