亚马逊事故警示：AI agent 读了过期 wiki 文档，零售站宕机
femke_plantinga · x · 2026-10-28
今年 3 月，亚马逊零售网站一周内发生 4 起高危事故，其中一起源于工程师照做了来自过期内部 wiki 的 AI 建议。Slite 的 Femke Plantinga 借此指出更普遍的问题：AI agent 现在会读团队文档并据此行动，但很多团队说不清哪些页面仍然准确。
她的观察：AI 并没有让知识维护更容易，反而更棘手——agent 从旧页面回答时和从新页面回答一样自信，而且它生成新文档的速度比任何人核查的速度都快。通常团队里总有一个人在默默维护文档，而这往往不是他的本职工作。Slite 正就此做下一份研究，主题是团队如何让知识对人和 AI 都保持可信。
「编程与Agent」频道最新
- 8 个开源项目组一套自托管 AI Agent 栈,替代每月 20 美元 SaaS 订阅 — SaiTarunRonanki · 2026-10-28
- 用 Google 开源 ax 编排器在单台 Linode 上跑 agent 群,造出 300 栋建筑 — rakyll · 2026-10-28
- API 密钥裸放 ~/.claude.json 里,开发者用 Rust 写 mcp-warden 让 agent 不再持有密钥 — Relevant_Mousse_9117 · 2026-10-28
- Qwen Code 发布 v0.26.3：记忆抽取、会话工作流等十余项更新 — qwen-code-review-bot · 2026-10-28
- 给 System 1 小模型发虚拟手柄,用 Godot 办了一场 AI 格斗锦标赛 — ViceGodIm · 2026-10-28
- 网友用 Grok Bot 每天自动生成个性化 Hacker News 摘要 — seanmcdonaldxyz · 2026-10-28