60起AI代理故障的共同根因
himalayan_knight · reddit · 2026-07-17
作者维护了一个类似 CVE 的 AI agent 失败数据库，目前已收录 60 起真实、可追溯的案例，并据此做出统计分析。结论包括：大约一半事件涉及安全漏洞或破坏性动作，47% 属于严重级别；最常见的根因不是模型能力不足，而是置信度错配——agent 在未经验证的前提下过于果断地行动。文末还附了每个事故的链接，并欢迎补充和纠错。
「编程与Agent」频道最新
- Anthropic 研究员:99% 工程师已跑 300+ 自改进 agent 群 — AlishaOutridge · 2026-09-11
- Gergely Orosz 观察:AI Agent 提速十倍交付,却带来一堆小退化 — ducha_aiki · 2026-09-11
- 同题 Echo Maze 实测:三大模型看似成功,代码里藏着同一个 bug — eyishazyer · 2026-09-11
- Astra 分镜+Minimax H3 分镜逐帧生成，视频创作成功率大增 — Hailuo_AI · 2026-09-11
- Codex 用户实测：Sol 搭配 Astra/Luna 子代理更省额度 — pvncher · 2026-09-11
- 开源 Agent Skill 2.3k 星:生成 MVP 蓝图并审计重构 agentic harness — tom_doerr · 2026-09-11