RLVR 逻辑推演:人类数据耗尽后,安全与数学成为下一个可验证训练场
felpix_ · x · 2026-10-28
- 推文梳理训练路线逻辑:2024 推理浪潮后,人类可用数据在 2025 年初已基本耗尽;RLVR(可验证奖励的强化学习)经 o1 验证,到 2025 年中模型已攻下 IMO 并能完成约 90% 的 SWE/PM 任务。
- 剩下既极难、极耗时又可验证的领域是:安全攻防与未解数学问题。2025 底至 2026 初,公开模型在这些任务上快速进步,开始威胁这两个领域的在位者。
- 作者据此推测继续推进的预期收益:(1)造出更强的模型,(2)贡献人类知识,(3)为融资造势;并认为这「不夸张地解释了 OpenAI 与全球数学家的冲突」。
「漫话AGI」频道最新
- Anthropic 携手 6 家药企用 Claude 加速药物研发 — JHochderffer · 2026-10-28
- 用《未来水世界》比喻实验室研究员驱动的智能体大军团 — generativist · 2026-10-28
- 最受 AI 冲击岗位青年就业率低 19%,硅谷担忧入门阶梯被拆 — FinanceYF5 · 2026-10-28
- 30 年血液科医生反驳「AI 将治愈所有癌症」论 — DeryaTR_ · 2026-10-28
- GPT-6 Astra 会杀死机器人创业公司吗？10 位研究者重新考虑项目 — alexcovo_eth · 2026-10-28
- IEEE 专访 DeepMind 驻站哲学家：谈 AI 自主性、安全与人机关系 — dioscuri · 2026-10-28