预训练与后训练为何缺少协同设计？研究者感叹公司只是在交付组织架构
SonglinYang4 · x · 2026-11-12
研究者 alexwang 提出疑问：为什么业界很少见到预训练与后训练的联合设计（pretrain-postrain co-design）？SonglinYang 回应称这是一个价值十亿美元的问题、远比想象中难，并引用康威定律式的观察——「公司真的只是在交付自己的组织架构」。这一对话点出了当前大模型训练流程中前后训练割裂的结构性原因：组织分工决定了技术方案的边界。
「研究」频道最新
- GRPO 论文：算力对齐后密集奖励反而不如稀疏奖励 — burny_tech · 2026-11-12
- Wayve 发布端到端学习的驾驶安全包络 LSE — alexgkendall · 2026-11-12
- HipKittens 一周年:团队持续攻坚 AMD GPU 软件生态破 CUDA 护城河 — simran_s_arora · 2026-11-12
- 世界模型团队争抢带操作标签的游戏数据：动作才是稀缺的那一半 — KnowledgeOk7634 · 2026-11-12
- Uno 用离散扩散让 LLM 推理提速至 3 倍,作者将开线上讲座 — burny_tech · 2026-11-12
- Pro-0 触觉手套零机器人数据训练灵巧手策略，亮相 CoRL — chris_j_paxton · 2026-11-12