斯坦福联合 Laude 推出 Atlantic-CC:对 Common Crawl 做 17T token 模型化清洗
Diyi_Yang · x · 2026-10-21
Laude Institute 与斯坦福团队(Percy Liang、Diyi Yang、Tatsunori Hashimoto 等)发布 Atlantic-CC 项目:用基于模型的方法对 Common Crawl 进行大规模处理,产出约 17T token 的高质量数据,用于训练更大更好的开源大语言模型。这是开源社区应对高质量数据枯竭、提升开放语料质量的重要基础设施动作,数据将服务于开源 LLM 训练。
「研究」频道最新
- 「日更 Agent」Day 2:Hypothesis Dreamer 帮科研人员造新假设 — nlarusstone · 2026-10-21
- JAX 提速 2.27 倍:速度跑赛道把 nanGPT 训到 4.179 仅需 6.76 秒 — RobertTLange · 2026-10-21
- 斯坦福学者质疑 Goodfire 过度炒作,叠加假说解释遭重新审视 — stanfordnlp · 2026-10-21
- SherpaLabs 发布知识工作 RL 环境,顶级模型金融基准通过率仅约 6% — ycombinator · 2026-10-21
- GLM-5.3 被发现在推理中自发展开「更新感知」思考,牵动对齐隐忧 — LessWrong 精选 · 2026-10-21
- ETH 新法从视频直接估计人形机器人全身姿态,无需内部传感 — ETHZurich · 2026-10-21