合成数据定向训练 Qwen3.8-27B:RLM 长任务均分 30.5→58.5

a1zhang · x · 2026-11-20

a1zhang 公布训练结果:用 Claude Opus 5.5 生成的全合成任务(部分含假子调用)对 Qwen3.8-27B 做 surrogate harness 训练。朴素 RL 难以泛化到更长任务,而针对性 harness 训练使相对性能提升约 26%。表中 RLM-27B(synthetic) 在八个长任务基准(LongReason、LooGLE、CTC、BC+、OOLONG、CorpusQA、OBLIQ、ELB)平均达 58.5,远超 base 的 30.5 与 RL(short tasks) 的 48.5;同设置下 Qwen3-30B-A3B 平均从 22.6 升至 25.0。

所属事件:MIT 论文:LM Harness 是组合泛化器而非弱模型拐杖(10 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →