Basil 推导：时域对 RL 算力亦是幂律，预训练 100x≈RL 100万倍
BasilHalperin · x · 2026-11-09
Basil Halperin 现场推导，回应「RL scaling 有 log 问题」的质疑，认为时域对 RL 算力大概率仍是幂律：
- Whitfill-Snodin-Becker 论文（经验+理论）表明：time horizon = (training compute)^γ，附图显示 Qwen2.5/Llama 3 在多个基准上的 50% 可靠时域与训练算力呈干净 log-log 线性（共享斜率 R²=0.906）
- Toby Ord 估计：预训练算力扩大 100 倍的收益 ≈ RL 算力扩大 100 万倍，即 training compute = (RL compute)^(1/3)
- 两者结合得 time horizon = (RL compute)^(γ/3)，故时域对 RL 算力也是幂律
所属事件:牛津学者激辩RL算力与AI任务时长的幂律关系(10 条相关)→
「研究」频道最新
- 30 余位作者合著 tokenization 综述，梳理子词切分的优势与缺陷 — rdesh26 · 2026-11-09
- 不用 8 张 GPU：六个动手步骤搞懂 Transformer 原理 — cneuralnetwork · 2026-11-09
- 布朗大学 SwarmEvolve：450 个 Agent 潜空间通信，程序搜索快 5-13 倍 — aigclink · 2026-11-09
- 字节 Seed 提出 Hierarchical Residuals：解耦残差宽度与计算宽度提升训练效率 — ByteDance-Seed · 2026-11-09
- 论文：与 AI 智能体的互动是双向的，会深刻重塑人类自身 — AnnaCiaunica · 2026-11-09
- 最强 3D 生成模型仍反复犯三类低级错误：Z-fighting、单面几何、坐标系错位 — teortaxesTex · 2026-11-09