Rylan Schaeffer 总结预训练研究:评测 scaling、数据重复与规模交互
RylanSchaeffer · x · 2026-10-20
Schaeffer 长线程收尾部分:过去两年他与合作者完成多篇预训练论文,涵盖生成式评测的 scaling law、规模相关的数据重复效应,以及数据重复与模型规模间的非平凡交互。他还分享感悟:ML 的许多规律可迁移到人生与更大系统设计中。
「研究」频道最新
- 开源 AI 检测器 SnapJudge:arXiv 新数学论文约三分之一疑似 AI 生成 — im_mansigupta · 2026-10-20
- 研究:生成式AI只让高元认知者更有创造力,其余人零提升 — korymath · 2026-10-20
- EMNLP 论文:换个打分方案就能改写 LLM 排名 — BrihiJ · 2026-10-20
- 微软发布 UserRepGen-4B:用户模拟保真度瓶颈在用户表征 — BrihiJ · 2026-10-20
- 开源AI文本检测模型发布:比商业检测器便宜且可共建改进 — danish037 · 2026-10-20
- 学术预算训练的检测器抓 AI 数学证明比商业产品多 2.4 倍 — danish037 · 2026-10-20