新缩放定律 Skaling:恢复模型与数据的交互项
TimDarcet · x · 2026-08-26
Chinchilla 缩放定律将损失写为模型大小和数据两个独立项之和,忽略了交互作用,导致在推算时预测偏差。提出的 Skaling 新定律通过引入一个指数项,重新加入了模型与数据的交互影响,从而修正了外推预测的准确性。
「研究」频道最新
- Papers with Code 新增功能:支持按自定义日期范围筛选论文 — NielsRogge · 2026-08-26
- 从能耗第一性原理设计 AI 硬件会更像大脑 — prateekj · 2026-08-26
- 论文追踪工具支持自定义日期范围筛选 — NielsRogge · 2026-08-26
- Qwen 4、Wan 3.0 开源,端侧 TTS 与 M6 芯片发布 — fromourback · 2026-08-26
- 深度学习教程更新:详解反向传播与网络初始化 — SimonPrinceAI · 2026-08-26
- siRNA 药物突破:肝脏单基因疾病已可治愈 — david_stillwell · 2026-08-26