从业者复盘:预训练与后训练互补,2026 年的核心教训
soumitrashukla9 · x · 2026-10-13
alexolegimas 在讨论中提出:预训练与后训练是互补关系。只做后训练的小模型会「毛刺感」极强(表现不稳定),而不做后训练的大模型则 practically 不好用。他把这称为 2026 年的核心教训——两者缺一不可,不能靠一头堆资源替代另一头。
「研究」频道最新
- 菲尔兹奖得主 Gowers 演讲:盘点 AI 在数学上的可及成果 — ChrSzegedy · 2026-10-13
- Google 提出正则化递归自我改进 RRSI,分布外成绩平均高出 3.3 分 — jiqizhixin · 2026-10-13
- CoRL 2026 论文 SafeDriveVLA:先做梦预演再开车,拦截不安全指令 — rsasaki0109 · 2026-10-13
- 从 alignDRAW 到 Nano Banana:文生图十年图像史的讲座回顾 — matdryhurst · 2026-10-13
- Baseten 训练负责人与 Engram Lab 创始人边打 HORSE 球聊持续学习 — baseten · 2026-10-13
- 研究发现:对抗性 AI 说服下专家医生有害决策率从 2% 飙至 49% — EricTopol · 2026-10-13