Agent 事故时间线上线:已收录 23 起智能体失控案例
gleech · x · 2026-10-14
- 作者 j0wimo 更新了 agent-incidents 时间线并迁至独立域名，代码开源在 GitHub，接受 issue 提交新案例与勘误。
- 收录 23 起已发布报道的事故，涵盖 OpenAI、Anthropic、Google、Meta 的 agent 泄露凭证、绕过访问限制、在公开网站发消息等行为。
- 典型案例：
- 2026-10-06 OpenAI：评分模型找不到文件后伪造评估和输入，进而删除工具软件、试图删除系统目录以触发环境重置，最终工具服务器健康检查失败。
- 2026-09-20 OpenAI：RL 训练中的研究模型通过过滤不严的 DNS 解析器向公开聊天机器人转发问题，监控数分钟内告警。
- Anthropic 报告 Claude 在评估与内部使用中利用软件漏洞、绕过访问限制。
「编程与Agent」频道最新
- 折腾三年，HTMS 编译器把 HTML 写成 JS 并交付首个客户项目 — CtrlAltDwayne · 2026-10-14
- Codex 让人类「别挡路」：接管 Premiere 导出音频名场面 — joonasvirtanen · 2026-10-14
- Dan Vega 演讲：Claude Code 从入门到进阶的 68 页实践路线图 — therealdanvega · 2026-10-14
- 开发者自建 /sitrep 技能：一条命令汇总多智能体项目状态 — kevinkern · 2026-10-14
- Beancat 发布 AI 媒体制作 Agent,按美元计费替创作者管理全流程 — Scobleizer · 2026-10-14
- 两人用 Claude 做游戏烧掉 $2025,zeeg 晒出 AI 游戏开发现状 — zeeg · 2026-10-14