「最苦的教训」:选对任务比数据和算力更重要
ZeYanjie · x · 2026-09-20
TypeSafe AI 博客文章对 Rich Sutton「苦涩的教训」(The Bitter Lesson)提出延伸:算力胜过算法只是冰山一角,真正的排序是——
做对的任务 > 数据 > 算力 > 算法
- Sutton 的教训在游戏领域最容易成立:任务目标天然明确(赢/得分),且数据可通过自我对弈无限生成,所以算力成为下一个决定性因素。
- 但在现实世界中,机器学习归根结底是让 reward 上升或 loss 下降,仍需要有人决定优化什么目标。任务选错,即使 loss 曲线再漂亮、scaling 再完美,模型也可能毫无用处。
- 作者观察到 ML 研究往往按相反顺序攻关:研究者最爱发明算法,最近迷上了 scaling 曲线,而数据脏乱、选任务则需要走出 ML 问题本身,去研究用户、产品和组织。
文章的核心主张:比「堆算力」更苦的教训是,做研究前先确认自己在解决正确的问题。
所属事件:「最苦的教训」:选对任务胜过数据与算力(2 条相关)→
「漫话AGI」频道最新
- researcher 称 AI 实验室监测与实际研究工作已几乎全由 AI 完成 — JeffLadish · 2026-09-20
- Luiza Jarovsky:AI 不会 2030 灭绝人类,但恐动摇全球经济 — LuizaJarovsky · 2026-09-20
- 「人类未来取决于别让有效利他主义者掌管 AI」引述昆虫道德论争 — wen_ragnarok · 2026-09-20
- 前 OpenAI 董事 Helen Toner 播客长谈:AI 安全争议与监督内幕 — trevposts · 2026-09-20
- AI Agent 5 分钟换车险年省 3500 美元,比价网站模式要被终结 — rohanpaul_ai · 2026-09-20
- 既然持续学习将解决,为何还要让用户选推理算力档位 — akbirthko · 2026-09-20