Agent 自查不可靠引热议独立校验器成焦点

Reddit 用户提出 agent 工程中的经典难题:agent 执行复杂任务后常宣称已完成,实际却跳过了业务规则。例如在 40 页合同审查中,要求 500 万保证金而合同仅写 300 万,agent 未能发现。让同一模型自检又容易陷入确认偏差,因此社区讨论是否应投入成本构建独立校验器来验证 agent 的工作成果。

2026-10-21 ~ 2026-10-21 · 2 条相关

• Agent 自称完成任务却漏检，独立验证器值不值得建？ — 1982_miguel · 2026-10-21
• Agent 自查不可信?Reddit 热议独立校验器设计 — 1982_miguel · 2026-10-21