反思Scaling Laws与Chinchilla
suchenzang · x · 2026-07-20
作者提出观点：起源于 OpenAI 创始人的 "Scaling laws" 以及被 DeepMind Chinchilla 论文作者推向高潮的理论，可能正让盲目接受它们的"伪知识分子"陷入陷阱。
结合其引用的长文分析，作者认为这些通过"将一堆数据点拟合为一条直线"的论文在极限外推时很可能是错误的。在仔细推导 Chinchilla 论文的数学后，发现了其中的严重问题。
「研究」频道最新
- UCLA 论文:扩散精力与接受宽容度双旋钮,拓宽投机解码速度-质量帕累托前沿 — UCLA · 2026-10-26
- 研究:Git 记录难以审计 AI 参与度,科研仓库需可审计溯源系统 — Koutian Wu · 2026-10-26
- 什么是融合版 DeepLIFT:绕开 hook 的梯度改写如何快 7 倍 — jmschreiber91 · 2026-10-26
- 新研究：AI 智能体谈判能力差，还会故意违约 — menhguin · 2026-10-26
- Cherimoya 融合版 DeepLIFT 合入 v0.3.1,同规模模型归因提速约 7 倍 — jmschreiber91 · 2026-10-26
- 生成式生物学基础设施 proto-tools 开源，CATv1 模型接入 — jmschreiber91 · 2026-10-26