模型切换悄悄破坏取消订阅,开发者做了行为差分工具
Impossible-Alarm-738 · reddit · 2026-07-22
模型切换后,作者的 agent 悄悄不再调用 cancelsubscription 工具,文本评测却全都没发现问题,于是他做了一个专门比较 agent 行为轨迹 的工具 whatbroke。
- 它不是比对文本,而是比对 JSONL 轨迹:工具调用、参数、顺序、耗时、成本和最终输出。
- 提供 whatbroke record 代理模式,只要把 base URL 指过去,就能从任意语言记录 trace。
- 支持同一场景多次采样,并计算 flap rate,把本来就不稳定的行为降权,避免误报。
- 工具完全离线、确定性运行,不需要 API key 或账号,MIT 许可;作者还把它设计成可直接接入 CI 的破坏性变更检查。
所属事件:开发者推新工具检测模型切换引发的Agent回归(2 条相关)→
「编程与Agent」频道最新
- Letta 用操作系统式记忆管理本地 LLM 智能体 — thisguyknowsai · 2026-07-22
- 先看任务复杂度,再决定智能体要不要上重型框架 — hugobowne · 2026-07-22
- 腾讯多款 Agent 分化,WorkBuddy 回升至 731 万 — FinanceYF5 · 2026-07-22
- Claude 停供第三方后,OpenClaw 跌至 466 万,Hermes 升至 616 万 — FinanceYF5 · 2026-07-22
- 商汤免费公测带动小浣熊起飞,代码 357 万办公 316 万 — FinanceYF5 · 2026-07-22
- 腾讯 CodeBuddy 6 个月月访问冲到 731 万 — FinanceYF5 · 2026-07-22