QuantCode:领域预训练+SFT 让开源模型交易代码通过率翻倍

Alexey Chernysh · hf · 2026-10-06

Alexey Chernysh 研究如何让 LLM 生成可执行的量化交易代码(Backtrader 框架),并发布 400 任务的 QuantCode-Bench。主要发现:- 继续预训练使 Qwen3.5-397B-A17B 单轮 Judge Pass 从 41.5% 升至 47.5%,Qwen3.6-35B-A3B 从 27.8% 升至 33.0%;- 继续预训练后再做 SFT(agent 校验的请求-代码对)效果最佳:Qwen3.6-35B-A3B 达 58.2% Judge Pass、83.5% 回测成功;智能体评估中首轮成功率 22.3%→58.3%,10 轮内最终成功 47.5%→79.5%;- 单独继续预训练会提升首轮成功率但降低修复后最终成功(47.5%→32.5%),说明指令遵循退化;- 发现能力遗忘问题:领域特化损害结构化工具调用,针对性恢复 SFT 能修复格式但无法恢复仓库级 agent 性能。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →