智能体何时该继续探测何时该上报人工？

ugrhnny · reddit · 2026-08-14

开发者探讨了决策型智能体在面临不确定性时的工程设计问题。当智能体拥有提交、低成本探测、请求数据、上报人工等动作时，如何避免其陷入无限探测的死循环。

作者目前的做法是给每次探测附加成本并设置次数上限，同时引入不确定性阈值：若无状态占据足够概率质量则直接上报人工。但他对这种硬性限制和随意的执行顺序并不满意，寻求业界是否有更成熟、成体系的设计模式来界定“继续探测”与“上报人工”的边界。