技术博主:合成课程优化或让 2B 参数小模型逼近 Opus 级认知

X 用户 teortaxesTex 在讨论本地小模型能力时提出,当前远未触及小模型的能力上限。他认为以规模优化为目标的合成课程训练已进入能真正发挥作用的阶段,即使缺乏把参数量推到极致的动力,经过优化的合成课程也有望让仅有 20 亿激活参数的模型达到类似 Opus 级别的认知内核,显示出小模型潜力被低估。

2026-11-21 ~ 2026-11-21 · 2 条相关