Qwen 35B 微调已有提升
habachilles · reddit · 2026-07-13
作者在做一个 Qwen 35B 的 fine-tune 项目，目标是用尽可能多、且“连贯”的 fable 数据来训练。 他给出的当前进展是： - 租了几台 H200 做训练； - 数据上非常挑剔，尽量保证连贯性； - 目前在 human eval 和 SWE 评测上都看到了约 +5% 的提升； - 计划再跑几轮后开源，并公开 metrics。 他还希望社区帮忙提供 fable 数据，认为这些数据“已经在大家硬盘里”，可以帮助把本地 LLM 做强。