LLM 应用观测为何不同于 APM
Ill_Deer_156 · reddit · 2026-07-13
作者在给 LLM 功能接入现有 APM 后发现效果很差：传统监控擅长发现慢请求，但很难抓到幻觉、错误的 policy 结论，或者 agent 做了不该做的 tool call。
帖子认为，LLM 应用的可观测性需要一套不同于标准 APM 的信号，尤其是：
- 完整的 prompt / response trace
- tool call 参数与执行结果
- RAG 场景下的检索上下文
作者想了解大家是怎么做的：是沿用并扩展现有 APM，还是单独上 LLM observability 工具；以及线上事故时真正有用的是哪些 trace，哪些只是噪音。
「编程与Agent」频道最新
- 旧金山 Code Engineering 大会聚焦从编码 agent 到软件工厂 — LangChain · 2026-10-27
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- 用 Claude Code 审计 iPhone 备份，揪出被删照片的全部藏身处 — alex_verem · 2026-10-27
- Yuchen Jin：手机不是移动 IDE，而是 agent 舰队的控制台 — Yuchenj_UW · 2026-10-27
- FrontierCS 2 登陆 Kaggle：48 项任务让智能体复现 13 领域论文贡献 — MeganRisdal · 2026-10-27
- 别只让 AI 复刻老游戏：工程师呼吁用 Agent 造更野的软件 — rschu · 2026-10-27