Hugging Face 把 Claude Code、Codex 等 10 个编码工具变成 RL 训练环境

huggingface · x · 2026-10-05

Hugging Face CEO Clément Delangue 宣布将 Claude Code、Codex、Hermes、Pi、opencode 等主流编码 harness 直接转化为 RL 训练环境,不改 harness、不改训练代码,完全开源。

核心问题:同一模型在 Mini-SWE-Agent 下得分 62%,在 Claude Code 下只有 33%——大多数模型的 RL 训练是在没人实际部署的 scaffold 里做的,训练环境与真实 harness 脱节。

解决方案是一个代理(proxy)而非重写:harness 以为自己连的是模型 API,实际连的是一个捕获代理,它支持编码 agent 常用的 4 种 API 格式(OpenAI Chat Completions、OpenAI Responses、Anthropic Messages、Gemini),转发给 vLLM 并记录精确的 token ID 和 logprobs,再把可训练序列交给 TRL。harness 本身就成为训练环境,目前已跑通 10 个 harness。

所属事件:HuggingFace 用多编码工具强化训练开放权重模型(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →