生产环境拦截 agent 危险动作：流式响应成防护盲区

dank_as_fuck_ · reddit · 2026-09-27

发帖人（axonpush 创始人，已披露）向社区提问：当 agent 拥有真实工具权限（支付、CRM、EHR、数据库）时，风险不再是错误回答而是错误动作——过大的退款、写错记录、碰到不该碰的工具。多数方案只做事后日志审查，他征集大家在工具函数内做硬校验、用 guardrails 库、还是高危操作人工审批。

他分享了一个诚实的工程局限：axonpush 内联在 OpenAI/Anthropic 调用上，可按工具名或参数（如 amount > 1000）在执行前拦截，但仅对非流式响应有效——流式模式下工具调用在完整响应可知前就已到达应用，只能事后标记。他同时征集：生产环境中大家是流式输出 agent 响应，还是在工具密集步骤关闭流式。