后训练吞噬任务而非文档：开放模型下一代数据从哪来？

NeelRajani_ · x · 2026-10-16

@dlwh 提出观点：互联网曾为预训练提供了出色的公共数据池，但后训练不同——它消耗的是任务而非文档，而这个「任务公共池」目前并不存在。
Neel Rajani 反驳：不能把预训练数据浪漫化为公共资源，其中大量文本并非公域内容；作者将其称为重大 IP 侵权——许多作者从未获得报酬，收入遭受实际损失。
争论核心：下一代开放模型的训练数据来源问题，以及数据来源的合法性叙事。