Agent 事故登记库收录 529 起真实事故，把智能体失误变成可引用数据
anacondainc · x · 2026-09-23
Anaconda 介绍的 Agent Incident Registry（AIR）自 2022 年以来已记录 529 起经核实的 AI 智能体事故，旨在把真实损害与研究演示区分开，让智能体失误变得可引用、可比较、可学习。核心机制包括：
- 可验证：每条记录必须附带抓取的一手来源和逐字引文，仅二手证据标记为中置信度，无法核实的线索被隔离。
- 区分真实损害：只有真实一方因智能体遭受真实后果才标记为 realized harm，针对在线系统的概念验证仍属演示。
- 四类分级：in-the-wild（真实场景）、safety failure（安全层失效）、disclosed vulnerability（披露漏洞）、research demo（研究演示）。
- 可引用：每条记录有 AIR-YYYY-NNNN 永久编号，永不重编号，支持开放导出。
该登记库覆盖会调用工具、浏览网页、写代码或以受托权限行动的智能体系统，每条记录还编码了谁在行动、如何行动、触及范围、安全护栏是否生效及是否造成真实伤害。
「安全」频道最新
- 安全老兵发问:10 亿美元加无限 token,如何真正改变网络安全 — chrisrohlf · 2026-09-23
- 斯坦福被指用 AI 修改学生种族性别并显瘦，学生称被沉默抹除 — soleio · 2026-09-23
- Grady Booch 拒装 Meta Muse：等机密 VM 上线也不信任 Meta — Grady_Booch · 2026-09-23
- Anthropic Opus 5.5 系统卡采纳学术团队评估感知新评估法 — maksym_andr · 2026-09-23
- AI 让内核漏洞利用平民化，容器不再构成安全边界 — OwariDa · 2026-09-23
- 科罗拉多 9 所高中停车场装 AI 摄像头，家长担忧学生被监控 — Polymarket · 2026-09-23