「苦涩教训」再解读：scale 胜过手工特征，但离不开专家

anshulkundaje · x · 2026-11-03

这条被广泛转发的推文重新阐释了 Rich Sutton 的「苦涩教训」：它的核心只是 scale 的边际收益高于手工设计特征，并不意味着蛮力能解决一切问题或 brute force 是主导方法。

作者特别指出，OpenAI 和 Anthropic 近期产出的数学证明并非由「三个伯克利社科辍学生跑百万 agent」完成，而是由世界顶级数学家（如 @alpoge）主导——scale 受益于精准的专业知识这一点与 bitter lesson 并不矛盾。因此「scale vs 专家」这个问题本身问得不好：答案本是「都要」，但更准确的说法是 scale 的复利要靠专家去瞄准方向。