网友与马斯克论战「预训练」命名及明年数据枯竭挑战
围绕「pretraining」一词是否名不副实,网友 tensorqt 与 Elon Musk、Merettm 展开论战,调侃既然没有真正的「training」就不该叫「预」训练,并断言明年面临的挑战是数据枯竭。Zeeshan Pishehvar 转发并呼应马斯克「预训练就该叫训练」的说法,进一步提出应把从预训练到 RL 的端到端行为视为单一算力流,才能理解超级智能的 scaling 特性。
2026-11-23 ~ 2026-11-23 · 2 条相关
- 与马斯克论战预训练命名,博主断言明年挑战是数据枯竭 — tensorqt · 2026-11-23
- Zeeshan 谈训练深层规律:预训练到 RL 应视为单一算力流 — ai · 2026-11-23