数据效率非解法:低覆盖数据才是真瓶颈
willdepue · x · 2026-07-07
针对「数据版 Stargate」的讨论,作者指出其核心问题是缺失或低覆盖数据,单纯提升数据效率无法解决。更进一步,这些方法往往只产出「用更少数据训练的同等模型」,却消耗更多算力,因此人们宁可拥有更多数据并按常规高效训练。在作者看来,数据效率不过是数据受限时的权宜之计,并无真正吸引力。
willdepue · x · 2026-07-07
针对「数据版 Stargate」的讨论,作者指出其核心问题是缺失或低覆盖数据,单纯提升数据效率无法解决。更进一步,这些方法往往只产出「用更少数据训练的同等模型」,却消耗更多算力,因此人们宁可拥有更多数据并按常规高效训练。在作者看来,数据效率不过是数据受限时的权宜之计,并无真正吸引力。