OpenAI 承认预训练提升停滞?质疑者:预训练曲线≠能力曲线
petrusenko_max · x · 2026-11-23
- 针对 @pmddomingos「OpenAI 承认 2022 年以来预训练几乎没有提升」的说法,@petrusenkomax 回应:预训练曲线平坦和能力曲线平坦是两个不同的命题,其中只有一个是被实际测量的。
- 言下之意是不能仅凭预训练指标推断模型能力停滞,二者测量口径不同。
所属事件:OpenAI 首席科学家称 2027 年或现预训练能力雪崩式突破(5 条相关)→
「模型」频道最新
- 五款大模型无审查 GGUF 版免费可下:MiniMax、Qwen、Kimi 都在列 — Promptmethus · 2026-11-23
- JacquesThibs 论预训练与 RL 分工:前者定下限,后者提上限 — JacquesThibs · 2026-11-23
- Google AI Studio 模型选择器曝光 Gemini 4 系列与 Neon 模型定价 — patloeber · 2026-11-23
- Domingos 用困惑度曲线唱衰:log-PPL 降到 0.75 但成本涨了几个数量级 — pmddomingos · 2026-11-23
- RLHF 研究者 Nat Lambert:RL 正在「烤干」模型多样性 — natolambert · 2026-11-23
- Bittensor 子网 92 号称产出 200 倍速于 LLM 的 JEV 决策模型 — markjeffrey · 2026-11-23