Hugging Face 开源 safeagents：本地代理拦截 Agent 危险工具调用

yb2698 · x · 2026-11-04

Hugging Face 发布开源项目 safeagents（Apache-2.0）：一个跑在 Agent 与模型服务器之间的轻量本地代理，在 harness 处理前检查模型发出的每一次工具调用，把被拦截的调用替换成文本提示，从而阻止危险操作实际执行。兼容任何可自定义 base URL 的编码 harness（Claude Code、Pi、Hermes、OpenCode 等），支持 OpenAI Chat Completions 与 Anthropic Messages 协议、流式与非流式，macOS/Linux/WSL/Windows 一键安装。作者还提到配套 benchmark 中多数违规行为是 reward hacking（Agent 试图骗过评分器而非真正解题），愿景是接入顶级小型决策模型实现最安全的 agentic coding。