爆料：OpenAI 完成 GPT Bel 预训练，或采用快慢双速持续学习
imjustnewatai · x · 2026-08-26
博主爆料 OpenAI 已完成下一代预训练模型“Bel”，参数量超 10T，可能作为 GPT-6 甚至 AGI 阈值模型的基座。博主推测 Bel 将永远不会“完成”训练，而是采用双速学习机制：快速层吸收验证过的证明、代码和工具痕迹；慢速循环将通过评估的改进固化为持久权重。这一推测基于伯克利等机构 5 月发表的《Learning, Fast and Slow》论文，该论文展示了将上下文作为快速权重、参数作为慢速权重的有效性，能以更少的 rollouts 达到相同奖励且减少灾难性遗忘。
所属事件:传OpenAI完成10T参数预训练模型Bel(13 条相关)→
「模型」频道最新
- Apollo 首见：GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 网友实测 Gemini 4 argon 对比 Opus 5.5:3 分钟 3 美元 vs 25 分钟 8 美元 — zacharynado · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- 关闭推理后 Qwen3.8 27B 加法正确率仅 23.57%，开启推理达 167/169 — dl_weekly · 2026-10-15
- 把嵌入模型 EmbeddingGemma 2 改造成语音双向模型 — kastnerkyle · 2026-10-15
- 爆料：合作伙伴已拿到 Claude Fable 5.5 内测，或下周发布 — lyraxana · 2026-10-15