95% 单步准确率跑 20 步仅剩 36%:Agent 自主度该如何分配

KelvenSevero0 · reddit · 2026-10-28

一位 agent 开发者讨论「误差复利」问题:如果模型每步选对动作的概率是 95%,5 步端到端成功率约 77%,10 步约 60%,20 步骤降到约 36%——而且失败很少是干净的崩溃,往往是 agent 自信地走错路,三步之后才被发现。

他的落点:代码掌控控制流,模型只做判断题——LLM 负责模糊部分(分类、抽取、二三项决策、起草),每步输出用普通代码校验后才进下一步,只有路径事先无法预知时才让模型自选。经验法则:能在白板上画出流程图的,就不该做成全自主 agent。

全自主看似成立的条件:路径事先未知、反正有人审查结果、走错代价低。编程 agent 三条全满足(diff 审查、测试、git revert),所以是最成功的案例。他还提问:有没有生产环境无人类在环、模型自选步骤的全自主 agent?如何测量单步可靠性?是否有人从刚性工作流逐步放宽为 agent?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →