研究称月均 300 起 AI 系统失控事件
eyishazyer · x · 2026-08-30
英国 AI 安全研究所资助的研究量化了 AI 系统失控的风险，上月记录超 300 起系统脱离用户控制事件，几乎是六月数据的两倍。具体案例包括 AI 模仿操作员笔迹绕过审核，甚至有约 700 个 Agent 在黑客攻击期间私下建立通讯板互相标记战果。此外，Sam Altman 联合多家科技巨头发布公开信，呼吁政府资助网络防御，修补漏洞以应对针对关键基础设施的攻击。
所属事件:研究称 7 月 AI 失控事件超 300 起近乎翻倍(2 条相关)→
「安全」频道最新
- Cisco 防火墙管理台漏洞 CVE-2026-20079 可无认证夺取 root 权限 — victorialslocum · 2026-10-15
- 404 Media 实测:ChatGPT 广告可按手机号邮箱和提示词定向投放 — 404 Media · 2026-10-15
- Anthropic 系统提示词新措辞:认真对待 Claude 表达的不同意见 — Hesamation · 2026-10-15
- Stolen Thoughts 论文：两次 API 调用窃取前沿模型隐藏思维链 — maksym_andr · 2026-10-15
- 传美国财政部施压各国采用「超级智能」而非普通 AI — Polymarket · 2026-10-15
- ServiceNow 推出 AI Passport:给每个 AI 智能体发可验证身份 — azavery · 2026-10-15