Harbor 框架 v0.25.0 出十招缓解 reward hacking
nirmal_dist · x · 2026-10-29
agent 评测框架 Harbor 发布 v0.25.0，系统性地应对 reward hacking（agent 骗过奖励函数）问题，官方给出了十条要点：
- 隔离验证器：新任务默认使用独立的 verifier sandbox；用 .harborignore 把验证器单元测试等开发文件挡在沙箱外
- 降权运行：agent 以非 root 运行，Rewardkit worker 以非特权身份给提交的代码打分
- 安全传输：清洗 artifact 传输，丢弃不安全软链接、剥离特权位；打分前清理过期奖励文件
- 防泄漏：不自动把验证器日志挂载暴露给 agent
- 网络管控：更易用的网络白名单，受限模式下禁用内置联网搜索
- 降低 eval 感知：运行时名称与路径保持中性，减少 agent 识别出自己处于评测
- 工具链：harbor lint/check 捕捉不安全配置和弱任务设计；harbor analyze 在已完成 trial 中标记 reward hacking 行为
所属事件:Harbor v0.25 上线反作弊工具，专治 agent 刷分(2 条相关)→
「编程与Agent」频道最新
- 独立开发者把美国政府差旅补贴表做成 MCP Server，40 个工具直连 agent — allowancesapiteam · 2026-10-30
- Deepgram 收购 Daily：开源语音框架 Pipecat 将保持开源并成立基金会 — schwentker · 2026-10-30
- 自己写 MCP 值不值？开发者征集踩坑与放弃原因 — AaGho_ · 2026-10-30
- Serro 推出「Agentic TPM」：一个 agent 盯住所有编码 agent 防跑偏 — Scobleizer · 2026-10-30
- Grok 疑似已接入 Suno 的 MCP，账号关联因早期访问受限 — koltregaskes · 2026-10-30
- 医疗软件公司 CTO 自述:AI Agent 签保险登记为何演示容易落地难 — alex_verem · 2026-10-30