别做“希望能成功”式Agent
Huge_Tea3259 · reddit · 2026-07-11
作者批评那种“系统提示词直连外部 API”的“希望能成功”式 AI agent：测试里看似能跑，到了生产就可能因为幻觉而做出错误退款等操作。 他主张在 `Prompt -> Generate -> Execute` 之间加入一层 **Self-Reflection / Internal Eval**：先产出动作草案，再让模型或规则检查是否违反核心约束，最后才执行工具调用。这样虽然会增加少量延迟，但能显著提升可预测性，避免 rogue API call。 作者还提到自己在创业公司 Langoedge 正在做这种确定性的编排引擎，并表示会分享如何设计自反思 eval loop、状态交接以及生产环境中如何信任 agent。