滑铁卢 Jimmy Lin 团队开源 nanochat 骨干与重排器全流程

滑铁卢大学教授 Jimmy Lin(lintool)团队 speedrun 了 Karpathy 的 nanochat:用 ClimbMix 数据从零预训练出 nanochat 骨干模型,再训练出号称达到 GPT-6.1 级别的重排器,全部流程仅用几张 GPU 完成,且已开源。重排器经 SFT 后性能追平现有水平,相关模型与代码已在 Hugging Face 上公开,为低成本复现训练全流程提供了范例。

2026-10-20 ~ 2026-10-20 · 2 条相关