蚂蚁开源 HazardAuditor:为计算机操作 Agent 提供执行级安全监督
antgroup · hf · 2026-09-15
蚂蚁集团在 Hugging Face 发布 HazardAuditor,针对 computer-use agent 的安全问题提出基于执行过程的安全监督方案。
- 核心思路:将安全监督锚定在 agent 的实际执行轨迹上,而非仅看表面文本,从而识别可执行的威胁行为
- 提出 Guard Policy Optimization(GPO):把生成式 guard 的训练与序列级安全结果对齐,提升防护的实际有效性
- 面向场景:计算机操作类智能体在真实环境中执行命令时的高风险动作审计与拦截
「编程与Agent」频道最新
- 跑一晚上只耗 1% 用量: agent 自动发帖运营 FB 主页实测 — TheMoonMidas · 2026-09-15
- Qwen Code 发布 CUA Driver v0.20.9:macOS 签名二进制与 MCP 载荷过滤 — github-actions[bot] · 2026-09-15
- 开源 AgentBridge:用统一 AgentSpec 解锁 agent 框架自由迁移 — 0sparsh2 · 2026-09-15
- 开源 AistyMCP 为 MCP 服务器加细粒度权限，默认全部拒绝 — iamjoehoward · 2026-09-15
- 本地 Qwen 跑编码 agent 频繁跑偏，用户对比后认了 Claude Code — tlpta · 2026-09-15
- Pareta 用小模型路由廉价任务,比 GPT-5.5 便宜约 620 倍 — D33B · 2026-09-15