零真实数据训练出新研究:两个模型互搏也能学出通用模式
mark_k · x · 2026-09-25
一项新论文展示了完全不用真实世界数据的训练实验：两个模型从零开始，一个编写小程序生成字节序列，另一个学习预测这些序列，前者随后不断生成能促使后者进步的序列。
仅在这些自生成序列上训练后，随着算力增加，学习模型在预测真实文本、图像、语音和 DNA 上的表现反而变好了。作者认为这是早期概念验证，但结果颇为惊人：不接触任何自然样本，也能涌现出有用的通用模式。
「研究」频道最新
- Sakana AI 与 Pathway 对谈实录：后 Transformer 时代 AI 与大脑的关联 — kaixhin · 2026-11-11
- METR 回应质疑:AI 提速结论基于大量未公开数据 — peterwildeford · 2026-11-11
- RL 攻防双环境:训练 AI 植入后门与检测后门,收敛点成谜 — DimitrisPapail · 2026-11-11
- UniPath 被 NeurIPS 2026 接收：单模型自适应协调理解与生成 — jindong_wang92 · 2026-11-11
- 前 Astra 成员创业做 real2sim2real：机器人仿真光『看得真』不够 — abhishekunique7 · 2026-11-11
- Scale AI 1200+ 次训练对比 PPO 与 GRPO:小 batch 用 critic,大 batch 可省掉 — heghbalz · 2026-11-11