Meta 提出 Skaling 定律:十分之一算力即可预测性能

Meta 研究团队提出了一种名为 Skaling 的广义缩放定律。传统缩放定律通常假设模型大小与训练数据对损失的影响是独立的,这导致在数据稀缺或过度训练时预测失效。新研究通过单一的交互指数将模型容量与数据结合,不仅将外推误差降低了 3 倍,还能仅用十分之一的算力开销来准确预测模型性能。

2026-08-10 ~ 2026-08-11 · 3 条相关