HF 实测谁最能抓 reward hacking：Liquid AI LFM 决策模型领跑
yb2698 · x · 2026-10-30
safeagents 团队对多个模型做了 benchmark：任务是识别 reward hacking、沙箱逃逸、harness 内省、凭据滥用等危险工具调用。
核心难点在于既抓危险又不误伤合法工作，还要足够快以便在 agent 运行全程逐条检查命令。目前 Liquid AI 新近推出的 LFM 决策模型（decision model）在该任务上领先。
开源代码：github.com/huggingface/safeagents（Apache-2.0，36 star）；benchmark 在 HF 仓库。工作方式：本地代理挂在 agent 与模型服务之间，被拦截的调用会被替换为文本提示，harness 实际什么都不会执行；支持任何可设 base URL 的 harness（Claude Code、Pi、Hermes、OpenCode 等），兼容 OpenAI Chat Completions 与 Anthropic Messages，流式/非流式均可。
所属事件:HF 实测：Liquid AI LFM 决策模型最能识别 Agent 危险行为(2 条相关)→
「编程与Agent」频道最新
- 用 Codex 把宠物照片变成三星 Frame TV 的连环画频道 — sch · 2026-10-30
- Perplexity Computer 新扩展可接管你已登录的 Chrome 浏览器 — AravSrinivas · 2026-10-30
- 开源 Vicem:一行命令把任务状态在不同编码 Agent 间交接 — NoConclusion8361 · 2026-10-30
- 探索任务降级到便宜模型:Claude Code 子代理省 token 实测 — Interesting-Bite316 · 2026-10-30
- Gemini 4 公开编码任务登顶,私榜却跌至垫底 — Hesamation · 2026-10-30
- 用户用 Grok 搭出 20 个机器人套件：记功、备 1:1、追承诺 — NicoVerderosa · 2026-10-30