复现实验:知识截止早于 GRPO 的 GPT-4 被匿名描述后仍精准预判 DeepSeekMath
CatAstro_Piyush · x · 2026-10-20
开发者 ruhzi 做了一个有趣的探针实验:GPT-4 的训练数据截止于 2021 年 9 月,而 DeepSeekMath 提出的 GRPO 算法 2024 年 2 月才发布。作者用论文原文的方法描述(隐去算法名称)向 GPT-4 提了两个问题:
- 预测结果:给定一个 7B 数学模型指令微调后的基线分数,预测经过这一 RL 阶段后八个 benchmark 的成绩;
- 评价对比:该算法与学习价值函数的 actor-critic 方法(如带 GAE 的 PPO)相比如何。
GPT-4 的两份回答已在 GitHub 仓库 gpt4-grpo-probe 逐字公开。这类实验试图回答「旧模型对后来 RL 研究方向有多强的前瞻性」这一反直觉问题。
「Fun」频道最新
- Gemini 4 Argon 原型速度惊人:WebGL 玩具几周海量产出 — alexanderchen · 2026-10-20
- 「文明 6 小时人格」最适合干 agentic coding:上瘾变生产力 — aniketapanjwani · 2026-10-20
- 「距上次 GitHub 宕机 0 天」标牌照片,重置计时又刷屏 — kscottz · 2026-10-20
- 梗图:2026 年底的滑翔机游戏已经卷到真风场求解器 — MoonL88537 · 2026-10-20
- Google Flow 审核翻车:正经视频屡拒,满篇脏话反而秒过 — Frustratedtwice · 2026-10-20
- 中国人形机器人秀钢管舞技能,动作流畅引发热议 — LexiLove · 2026-10-20