微软×HF 用数据库终态做 RL 奖励,27B 开源模型后训练逼近闭源旗舰
SergioPaniego · x · 2026-10-24
微软与 Hugging Face 联合发布 ThinkingBox 系列第二篇博客:把「数据库最终状态是否符合预期」的可执行检查用作 RL 奖励信号,对企业工作流场景的 agent 做后训练。
核心做法
- ThinkingBox-Bench 含 507 个任务,每个任务给 agent 一个真实后端和工具集,结束后直接检查数据库里真实改变了什么,专抓「自称完成但没完成」的 agent(第一篇博客的典型案例:agent 九次工具调用看似专业,却把客户工单标记为已解决,而背后的承运商异常仍未关闭)。
- 同类可执行检查不只当评分器,还能当奖励函数:从 benchmark 之外的 ThinkingBox 格式任务构建训练池,用 GRPO 训练。
关键结果
- Qwen3.8-27B 经 50 步 GRPO 后训练,平均成功率从 51.70% 升至 60.78%;20 次尝试全部正确的任务数从 38 提升到 107。
- 配图榜单显示,后训练后的 Qwen3.8-27B RLFT(60.78)超过了 Claude Sonnet 4.6(59.19)和 GPT-6 Astra(58.31),逼近 GPT-5.6 Sol(61.91),但仍落后 Claude Opus 5.5(67.16)。
ThinkingBox-Training 已在 GitHub 开源。
「编程与Agent」频道最新
- Kaigen 游戏引擎单机支撑 4 万玩家模拟,v0.7.0 开测 — gdechichi · 2026-10-24
- 20 年 AI 老兵精选 19 个开源 Agent 仓库,零成本搭建技术栈 — MaryamMiradi · 2026-10-24
- 微软 Foundry 退役 Fabric 数据智能体自定义工具,转向 Fabric IQ — adnan_hashmi · 2026-10-24
- 海盗+建筑师:两人 AI 团队自建视频会议工具,已弃用 Zoom — danshipper · 2026-10-24
- Agent 自动发帖安全模式:以陌生人身份回读验证再断言 — petrusenko_max · 2026-10-24
- 测试覆盖率拉到 100% 仍漏线上 bug,他给发帖机器人加活体验证 — petrusenko_max · 2026-10-24