GitHub 公开仓库季度 push 量一年翻倍，研究者称后训练数据在反哺预训练
aminkarbasi · x · 2026-11-09
研究者 DimitrisPapail 引用数据指出，2020 年至今 GitHub 公开仓库的每季度 push 数量持续攀升，仅过去一年就翻倍。他感慨「预训练 token 正在源源不断涌现」。
Amin Karbasi 回应提出一个有趣观察：这些新增的海量代码 push 本质上是「后训练 token 流回预训练」——AI 编码助手生成的大量代码正被写回公开仓库，成为未来模型的训练素材。Papail 对此表示「基本属实」。
所属事件:GitHub 公共仓库季度 push 一年翻倍至 4.08 亿(2 条相关)→
「漫话AGI」频道最新
- 当机器包办一切，人际关系会成为人类仅剩的价值 — ZeroStateReflex · 2026-11-09
- 2039 年的泡菜坛子生意：当 AI 接管一切后人们还剩什么 — NathanpmYoung · 2026-11-09
- METR 研究员:AI 至少带来 1.4 倍研究加速,依据是私下信息而非公开数据 — peterwildeford · 2026-11-09
- AI 冲击科学评价体系：生物学家追问「生物学研究为了什么」 — anshulkundaje · 2026-11-09
- 从流形假说到压缩即学习：一篇讲透智能为何可能的长文 — burny_tech · 2026-11-09
- 一句话点破：AI 让「杰文斯悖论」人人可体验 — cocktailpeanut · 2026-11-09