网友问数据墙下能否靠进插值区续命,OpenAI 研究员称该理论不成立
willdepue · x · 2026-11-06
网友 xidulu 提问:既然撞上数据墙,为什么不继续加大模型规模,指望进入 double descent 的插值区(interpolation regime)让测试误差再降?
OpenAI 研究员 willdepue 直接回应:“这类理论根本不是真的,什么插值区?”附图为经典 double descent 曲线:测试误差在参数/数据比约为 1 的插值阈值处达到峰值,之后随模型继续增大而再次下降。
所属事件:OpenAI 研究员与网友激辩数据墙与双下降理论(7 条相关)→
「漫话AGI」频道最新
- 学者发起「逆向对齐」计划:补齐社会制度短板来承接 AI 能力 — profjamesevans · 2026-11-06
- Evans 制度方案:按贡献与惊喜度付费数据创作者,替代引用计数 — profjamesevans · 2026-11-06
- James Evans 与 Glen Weyl 发文:制度而非模型正约束 AI 的社会价值 — profjamesevans · 2026-11-06
- Greg Brockman:AI 或让死亡成为可选项,12-18 个月内治病将有大突破 — kimmonismus · 2026-11-06
- 英国民调:多数人认为 AI 将抢走工作,但不包括自己的 — HotMinuteUK · 2026-11-06
- 观察:AI 正在瓦解名声、广播式传播与知识垄断四件事 — StewartalsopIII · 2026-11-06