GitHub 周提交量达 2.75 亿，合成数据反噬前沿实验室护城河

DimitrisPapail · x · 2026-11-06

Dimitris Papail 提出一个有趣的观察：从零预训练强模型正变得越来越容易，他怀疑这与网络上高质量合成 token 池（GitHub、arXiv 等）同步增长密切相关——GitHub 全年提交量从 2025 年的约 10 亿，暴增到 2026 年 4 月的每周约 2.75 亿，其中大部分可能来自 Claude Code/Codex 等 AI 编码工具。

由此他指出了前沿实验室的两难：为收回资本开支，它们必须大规模售卖 token，卖得越多越好；但卖得越多，模型能力就越多地泄漏到公开网络上供后来者训练，反而慢慢把自身优势商品化。