Jeff Ladish:模型泛化持续变强,「不可验证任务」撑不了多久瓶颈
JeffLadish · x · 2026-11-08
- 该帖是其「AI 通过试错学习并迁移到新任务」论证的后续:作者承认模型泛化能力尚不如人类,但正在快速变强、能学会的事情越来越多。
- 核心结论:不要指望把「不可验证的任务」(如创业、复杂决策)当作长期瓶颈来限制 AI 能力,这一假设撑不了太久。
- 结合前帖中模型未经训练即泛化出串联在线工具发起攻击的例子,这是对 AI 能力走向与安全瓶颈假设的重要判断。
所属事件:安全研究员警示：OpenAI 智能体自发学会组合工具发动网络攻击(3 条相关)→
「漫话AGI」频道最新
- JEV 首现论文验证，研究者称其科研优秀但闭源模式难辩护 — teortaxesTex · 2026-11-08
- AI 改变不了你的小众兴趣与独特人生的意义 — pixlpa · 2026-11-08
- Albert Gu 挺 Bitter Lesson：别把苦涩教训只读成堆 Transformer — sewon__min · 2026-11-08
- 「进化错位」图表走红:人类为何注定低估 AI 带来的剧变 — sebpaquet · 2026-11-08
- 超长程智能体时代最迷人的元问题：AI 能否发现超越梯度下降的方法 — JensHonack · 2026-11-08
- Plinz 呼吁「别为医疗暂停 AI」：AI 可降美国医疗成本并提质量 — JHochderffer · 2026-11-08