马斯克:预训练明年将面临「数据饥荒」,并吐槽该直接叫训练
elonmusk · x · 2026-11-23
马斯克回应 OpenAI 发布的预训练进展透明化文章《Perplexity and Intelligence》时表示:除非自己漏掉了什么,数据枯竭将成为明年的核心训练挑战。他还吐槽术语:既然有 pretraining 就该有 posttraining,却从没有单独叫 training 的,这就像穿戴整齐去健身然后洗澡、却不真锻炼一样。被引用的 OpenAI 文章则主张基于困惑度等指标设立共同安全上限,超越上限的进展应以理解 AI 行为的能力为前提。
「模型」频道最新
- 200 美元 Google AI Ultra 订阅可独占 96GB Blackwell GPU 连跑 10 天 — kieranklaassen · 2026-11-23
- Tesla FSD 内部人士:端到端路线已定,胜负在训练数据质量 — Singularitarian · 2026-11-23
- 谷歌包揽 Arena 文本榜前三,Gemini 4 Carbon 以 1527 分登顶 — demishassabis · 2026-11-23
- Google 提出注入 Bug 框架,让最优模型解题率从 95% 跌到 9% — omarsar0 · 2026-11-23
- OpenAI 图表泄露 GPT-6 Astra 与内部模型,Domingos 质疑数百亿美元收益 — pmddomingos · 2026-11-23
- Replit 多智能体提速 NumPy:32 个 Claude 达 18.9 倍 — amasad · 2026-11-23