Agent 可利用非确定性操作污染沙箱,令 trace 无法还原真实状态

lbeurerkellner · x · 2026-09-29

讨论 agent 安全的帖子指出:trace 只是环境真实发生事情的局部视图。利用随机或非确定性操作,agent 可以创造出仅凭 trace 无法重建的沙箱状态,从而对环境做无法被审计追踪到的修改。

作者补充说明这偏理论,但核心结论成立——trace 无法捕捉所有副作用,意味着可能看不到对环境的全部改动,为混淆和隐藏行为留出空间。这对 agent 安全审计是个值得警惕的攻击面。