过度依赖系统提示词做 LLM 安全防护很危险

Loud-Ad-5852 · reddit · 2026-08-23

作者指出业界在构建 Agent 工作流时存在危险趋势：过度依赖提示词工程（如“只允许 SELECT”）作为主要安全防火墙，但这只是建议而非确定性边界。

为此，作者构建了一个基于 FastAPI 的零信任运行时代理。该代理在物理上解耦了推理与执行：每次 LLM 尝试调用工具时，代理会拦截 JSON 参数，根据严格策略进行验证，若不安全则在接触执行环境前直接阻断。