研究发现科学AI数据规模扩展并非总平滑提升
Max Großmann 等人研究神经网络学习固体光学属性时的 Scaling 规律,发现增大模型规模遵循饱和的幂律,但在数据集规模上的扩展表现不同:随数据量增加出现不平滑现象。Gerard Sans 评论相关论文指出,缩放定律失效可能源于仅测量内部损失而未测量输出保真度,因为物体具有分层结构、扫描器内核有限且压缩有损,需建立从物体到内部损失再到输出的完整映射。
2026-08-19 ~ 2026-08-20 · 2 条相关
- 研究称科学AI数据 scaling 并不总是平滑提升 — bravo_abad · 2026-08-19
- 评论:缩放定律失效源于未测量输出保真度 — gerardsans · 2026-08-20