AI Agent 护栏分三类:输入、输出与限流的工具护栏

Zachly · x · 2026-11-19

作者把 agent 护栏分为三类:输入护栏(校验用户输入,拦截不当或离题内容,不送入 agent)、输出护栏(对完全正常的输入也可能生成不当输出,需在返回用户前校验并告知)、工具护栏(对工具调用设保护和限制,其中限流最重要)。内容偏入门分类,适合作为 agent 安全设计的 checklist 起点。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →