LLM 网关故障目录 FailureAtlas 开源

its_vayishu · x · 2026-07-20

At @metriqual 开源了 FailureAtlas：一个面向多供应商 LLM 网关的故障分类与案例目录，聚焦生产环境里“HTTP 200 但应用其实坏了”的隐性问题。

他们把故障分成 5 个架构层，最危险的是 Silent 类：例如异步竞态导致上下文跨租户泄漏、SSE 流中的并行 tool call 索引碰撞、状态管理里的并发 race、以及常规 APM 看不见的问题。作者强调，需要的是 semantic observability，并邀请大家提交 PR 共同补充这个开放目录。