提出作用域完整性作为agent安全目标
Hollow_Prophecy · reddit · 2026-07-07
作者提出一个新兴的agent安全目标——“作用域完整性(Scope integrity)”，定义为在受到外部、检索、对抗、显著干扰或被污染输入的压力时仍保持授权约束场。它比提示注入防护更广，还覆盖显著但非恶意的干扰、过度校验、状态伪造、工具能力漂移等，强调agent不得让外部输入重新定义任务、可用工具、成功标准或状态真值。
Hollow_Prophecy · reddit · 2026-07-07
作者提出一个新兴的agent安全目标——“作用域完整性(Scope integrity)”，定义为在受到外部、检索、对抗、显著干扰或被污染输入的压力时仍保持授权约束场。它比提示注入防护更广，还覆盖显著但非恶意的干扰、过度校验、状态伪造、工具能力漂移等，强调agent不得让外部输入重新定义任务、可用工具、成功标准或状态真值。