Toby Ord:RLVR 之前,能力跃升主要来自新一代大预训练
tobyordoxford · x · 2026-11-06
Toby Ord 在其「阶跃拟合」观点后补充：在推理模型与其 RLVR 训练出现之前，那些较少见的新一代大规模预训练才是大部分新能力突然涌现的来源。要计算真实的年度能力增益，必须拉远视角、把多次阶跃纳入考量，而非只看平滑曲线。
所属事件:牛津哲学家称 AI 能力提升呈台阶式跃升而非斜率变化(3 条相关)→
「研究」频道最新
- TabClustPFN 登顶 44 个真实数据集聚类基准，预训练取代逐库调参 — jiqizhixin · 2026-11-06
- Toby Ord 质疑 METR 1.9 倍斜率:没算预训练跳升 — tobyordoxford · 2026-11-06
- 牛津研究员用 Opus 复算:Mythos 能力跳升 5 点,斜率仅 1.4 倍 — tobyordoxford · 2026-11-06
- 注意力机制新解读:本质是单位球面上的球面插值 — mgostIH · 2026-11-06
- 斯坦福新记忆系统：16 个 token 记住全部对话，提速 27 倍 — 141_1337 · 2026-11-06
- Fraunhofer ViT-HarDis：按样本难度解耦注意力头，零成本提升人脸识别 — FraunhoferIGD · 2026-11-06