路由器把五次被拒的答案记成供应商故障:验收检查的调试复盘
jonah_omninode · reddit · 2026-10-02
OmniNode 团队复盘另一起 agent 系统故障:路由器尝试了五次,每次供应商都及时返回了答案,但验收检查全部拒绝,最终记录却写成「供应商错误」,把排查引向完全错误的方向。
该路由器的策略是从最便宜的合格模型开始,答案不通过再升级到更强的模型,因此验收检查实际上参与 spending 决策——检查错了,重试只会更贵却得不到可用答案。作者还提到 9 月 28 日的另一案例:检查拒绝了一个正确的单词答案,理由似乎是「显得不够努力」。
作者的改进方向:把返回的答案和拒绝理由一起保留,因为传输失败、答案不达标、检查误杀正确答案需要完全不同的排查路径。文末链接到其 Substack 长文《Delegation is the first product》,并询问同行如何测试路由器的这条边界。
「编程与Agent」频道最新
- PS5 模拟器借 AI 加速:SharpEmu 已有 10 款游戏可玩 — mark_k · 2026-10-02
- Muse 新增主 Agent 角色,降低自动化任务上手门槛 — op7418 · 2026-10-02
- 开源 shardr:给本地模型做内容寻址存储与 BT 分发 — Cyb3erDudu · 2026-10-02
- Cloudflare Workers 新增 Analytics SQL 绑定,可直接 SQL 查询分析数据 — ritakozlov · 2026-10-02
- a16z 播客:Lio CEO 谈 AI 初创如何在老牌软件夹缝中取胜 — a16z · 2026-10-02
- llama.cpp 新增决策模型端点,单次前向给出选项概率 — ggerganov · 2026-10-02