新研究用 scaling law 量化合成数据改写的算力收益

chrmanning · x · 2026-10-31

percyliang 转发 Ahmed 的研究线程:合成数据改写已成 LM 预训练提升数据质量、缓解数据短缺的标准手段,但改写该花多少算力、改写数据训出的模型能否超越改写模型本身尚缺量化。该工作通过拟合 scaling laws 来回答这两个问题,系统度量合成数据在算力效率与数据效率上的收益。

所属事件:斯坦福研究提出合成数据重写的 Scaling Law(3 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →