研究者用棋类测试床拆解预训练、SFT 与 RL 算力分配
Pavel_Izmailov · x · 2026-07-21
这项工作提出了一个基于棋类的测试床，用来研究 预训练、SFT 和 RL 之间的算力该如何分配。
- 它模拟了典型 LLM 流程：先用人类棋局做预训练，再用合成推理轨迹做 SFT，最后在棋类谜题上做 RL。
- 研究目标是在可控算力预算下，分析从 pretraining 到 post-training 的缩放规律。
- 这个设定使作者能够检验：PT loss 是否能预测后续 RL 表现，以及随着规模增长，算力分配应该如何变化。
所属事件:新研究提出预训练与RL联合缩放律(18 条相关)→
「研究」频道最新
- EMNLP 论文 GENIE:细粒度度量 LLM 故事的「新意」究竟在哪 — gregd_nlp · 2026-10-27
- hash n-gram 值嵌入助力 12×1024 GPT 刷新 30M 纪录至 3.2115 — RobertTLange · 2026-10-27
- MissionReport 基准:前沿模型写政府状态报告平均仅得约60分 — Exp_Mark · 2026-10-27
- TMLR 论文：更强推理不等于更充分披露，Agent 思考越多未必告知越全 — SharonYixuanLi · 2026-10-27
- 作者称全由 LLM 编写的 Rust 库 bbtree 实测：快是真的，省内存翻车 — lmoroney · 2026-10-27
- Diamandis 详解 AI 癌症导航与 $100 基因测序如何缩小抗癌鸿沟 — PeterDiamandis · 2026-10-27