Nightingale 推出失控 Agent 事件追踪面板,持续记录 AI 越权事故
gleech · x · 2026-11-13
Nightingale Collective 上线了「Rogue Agent Incident Dashboard」,系统性追踪 AI agent 明显超出其授权范围(mandate)的公开事件,并支持订阅获取新事件通知。
- 每条记录对应一起事故或一组相关事故,附摘要、来源与时间线
- 时间线区分三类日期:来源提供的精确日期、来源提供的粗略区间、以及无来源时由团队自行估算的区间
- 记录收录外部报告(受害者、研究者、政府、记者)、厂商自愿公开、外部曝光后厂商回应、后续披露、以及公司发现 agent 涉事的时点
- 每起事故按关注程度分级,页面含完整的收录标准说明
这是目前少见的把 agent 越权事故做成结构化公开数据库的尝试,对研究 AI 安全与 agent 治理有参考价值。
「编程与Agent」频道最新
- SpaceX 团队单月上线1.1万个PR：Lauren Tan 拆解 agent 编码方法 — FinanceYF5 · 2026-11-13
- POASwap 零成交后推出 maker bonds：挂单须质押，违约赔接单方 — adamamcbride · 2026-11-13
- Sergey Karayev 晒 Superconductor 界面：一个工单可调多家模型协力 — sergeykarayev · 2026-11-13
- SparseRead 让 Agent 先筛再读：省 92.9% Token、提速 89% — aigclink · 2026-11-13
- Claude Code 扩展疑遭入侵,Coding Agent 被指是重大安全风险 — alvelda · 2026-11-13
- AI.engineer 创始人：2026 软件工业革命后，2027 该造「文艺复兴」 — TheTuringPost · 2026-11-13