更多预训练数据降低多样性但提升“可对齐性”
minhnguyen · x · 2026-11-15
minhnguyen 综合十余篇论文（如 "When Bad Data Makes Good Models"）的结论提出一个框架：
- 在只做少量专门化 RL 的前提下，更多预训练数据确实会导致输出均值回归（观点趋同）。
- 但更多数据同时会提升模型的 alignability（可对齐性）——如果你精心设计 RL 目标启发式来最大化 alpha，可对齐性就是力量的倍增器，而这目前并不是常见的 RL 优化目标。
所属事件:AI 给出的是共识：预训练与量化交易的两面观察(2 条相关)→
「研究」频道最新
- Flint 40B 自我迭代 11 步，法律任务涨 15% 达 0.544 — RichardSocher · 2026-11-15
- Raschka 补齐 RoPE 从零教程，盘点 2026 开源模型位置编码选型 — rasbt · 2026-11-15
- 单卡 1 小时 40 分钟、约 5 美元训出 89.5% 准确率的 LLM 评测官 — MaziyarPanahi · 2026-11-15
- 常春藤毕业生做交易的类比：读得多不如练得对 — minhnguyen · 2026-11-15
- LeCun CoRL 放话：想做人类级 AI，别搞 LLM — Heavy-Ad9232 · 2026-11-15
- NeurIPS 新方法将 ImageNet 每类 1300 张图蒸馏成 10 张 — kastnerkyle · 2026-11-15