用开源轨迹合成 RL 环境:LFM2.5-24B 自评难度分层训练
yb2698 · x · 2026-11-06
作者分享了为 agentic RL 合成新训练环境的方法:以 Hugging Face Hub 上的公开 agentic 轨迹为种子数据,合成生成新的 RL 环境,以提升旧环境(仅覆盖数据分析类任务)的难度与多样性。
关键做法:
- 难度标注:用 LFM2.5-24B 本身(terminus-2 下)跑每个任务,记录 solve rate 作为难度标签——低于 0.3 为 hard,0.6 以下为 medium,以上为 easy。
- 任务配比:GRPO 只能从「组内有通过也有失败」的任务学到信号,模型总是能解的任务提供零信号,因此把任务混合加权偏向 medium 和 hard。
- 测试质量保障:每个任务的隐藏测试经过 mutation testing,能抓出漏检坏代码的测试套件。
所属事件:HuggingFace 开源直播 agent RL 训练:LoRA 适配器显著提升编码 harness(8 条相关)→
「编程与Agent」频道最新
- Perplexity 推出主动式智能体 Teammates,Max 订阅者网页端先行 — testingcatalog · 2026-11-06
- LLM 智能体接手 DNA 实验:自动改写协议抢空闲仪器 — bravo_abad · 2026-11-06
- Sentry 推出 CLI 与 MCP 二合一:一个登录态同时驱动两种接入 — zeeg · 2026-11-06
- Eon Yukon 数据引擎:每秒百万事件,计算比 Spark 省 4 倍 — dr_cintas · 2026-11-06
- Perplexity 发布 Teammates:可主动协作、接 Slack 消息的 AI 同事 — inductionheads · 2026-11-06
- BoxWorks 发布 Box Content Retrieval,CFO 级内容平台押注智能体 — shashib · 2026-11-06