whatbroke 用轨迹 diff 抓 AI Agent 的工具调用回归
Impossible-Alarm-738 · reddit · 2026-07-25
- 作者发现，模型替换后，agent 仍然对用户说“done!”，但实际上已经悄悄不再调用 cancelsubscription 工具了。
- 仅看文本输出根本抓不住这种回归，于是他做了一个叫 whatbroke 的工具，专门对比 agent 的完整执行轨迹，而不只是对比回复文本。
- 工具会比较两份 JSONL trace，告诉你工具调用、参数、顺序、成本、耗时和最终输出到底哪里变了。
- 它支持代理录制模式，能接入任意语言；也可以直接导入 Langfuse、LangSmith 或 OpenTelemetry GenAI spans 的 traces，用来对比生产环境前后变化。
- 项目是 MIT 许可证、完全离线、无 API key，并已开源在 GitHub：arthi-arumugam-git/whatbroke。
所属事件:whatbroke：用轨迹 diff 抓 AI Agent 行为回归(2 条相关)→
「编程与Agent」频道最新
- 受 OpenAI 万机群启发，开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid：只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题，供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用 prompt 造硬件:一次对话让智能体组装定制设备寄到家 — paraschopra · 2026-09-11