模型切换悄悄破坏取消订阅，开发者做了行为差分工具
Impossible-Alarm-738 · reddit · 2026-07-22
模型切换后，作者的 agent 悄悄不再调用 cancelsubscription 工具，文本评测却全都没发现问题，于是他做了一个专门比较 agent 行为轨迹 的工具 whatbroke。
- 它不是比对文本，而是比对 JSONL 轨迹：工具调用、参数、顺序、耗时、成本和最终输出。
- 提供 whatbroke record 代理模式，只要把 base URL 指过去，就能从任意语言记录 trace。
- 支持同一场景多次采样，并计算 flap rate，把本来就不稳定的行为降权，避免误报。
- 工具完全离线、确定性运行，不需要 API key 或账号，MIT 许可；作者还把它设计成可直接接入 CI 的破坏性变更检查。
所属事件:开发者推新工具检测模型切换引发的Agent回归(2 条相关)→
「编程与Agent」频道最新
- Reddit 网友征集:带持久记忆的个人 AI 通讯助手怎么搭 — BrooksomidusGG · 2026-10-27
- Claude Code 用法心得：max 档做规划，xhigh 档做实现 — majidmanzarpour · 2026-10-27
- Chrome 团队详解 WebMCP：不是取代 MCP，而是让网站直接向 agent 提供工具 — rseroter · 2026-10-27
- Agent 绕过 UI 就能改已审批报销单?Agent-Native 框架要堵这个洞 — rseroter · 2026-10-27
- 开发者晒 AI 编码智能栈：人定方向 Opus 写码 Astra 审查，人类只做审阅 — sh_reya · 2026-10-27
- Baseten 网络课：用自有合并 PR 建 benchmark,按每成功任务成本评估开源模型 — baseten · 2026-10-27