Scaling Laws 再审视：数据质量成模型突破关键
auto_grad_ · x · 2026-08-19
作者探讨了支配模型能力提取的 Scaling 因素，指出仅扩大参数已遇瓶颈，需转向数据质量。引用 Jie Tang 观点，强调参数、数据量、算力分配需平衡。结合新论文《Scaling Laws Revisited》，提出引入无维度的数据质量参数 Q，扩展 Chinchilla 框架以建模数据质量在预训练中的作用。
「模型」频道最新
- GLM-5.3网络攻防评测出炉：漏洞发现持平，漏洞利用落后Mythos — pstAsiatech · 2026-08-19
- 智谱为GLM-5.3设分层风险审查，主动公开AI安全承诺 — pstAsiatech · 2026-08-19
- 重绘 GLM-5.3 等模型智价比图表，引入本地算力成本 — crusaderky · 2026-08-19
- Anthropic第四次延期Claude Code额度提升，被疑因恐惧竞争 — heypearlai · 2026-08-19
- DeepSeek V4 Pro API 疑似升级后又回退 — teortaxesTex · 2026-08-19
- Ds4 v0.6.2 实测：单机 Spark 跑通 DeepSeek 284B，吞吐 1000tok/s — pbaylies · 2026-08-19