Kenneth Stanley 谈 AGI 难题:如何度量开放式发现
mhmazur · x · 2026-10-26
Kenneth Stanley(《Why Greatness Cannot Be Planned》作者)在 ARC Prize 大会演讲的笔记，核心论点：持续的发明与发现能力是 AGI 的必要条件，但为它设计基准测试非常困难——选错指标反而会把研究引离我们希望鼓励的发现。
- 开放式定义:能无限持续创新与发现的过程，典型例子是生物演化与人类文明；两者都靠积累「踏脚石」发现催生后续发现，且都在同一次连续「run」内实现多样性，不同于 AI 中朝预设目标搜索的范式。
- 为何关乎智能:Stanley 认为创造性成就构成 AGI/超级智能的必要条件——若系统无法为持续发现过程做贡献，测试高分就漏掉了关键能力。
- 两条研究教训:过度聚焦目标会让研究者错过通往目标的踏脚石；两个系统得分相同但内部表征不同，会显著影响它们接下来能发现什么。
- 三类度量方法:活动统计(新策略是否持续产生并留存)、(后文详列的其他方法)——他认为各有适用范围，但都不是给前沿系统排名的通用基准。
- 该方向源于人工生命领域的「开放式演化」研究，2010 年代后期进入 AI 讨论主流。
「漫话AGI」频道最新
- 研究发现：前沿 LLM 常为私利单方面撕毁 AI 合同 — xuanalogue · 2026-10-26
- 133 位专利律师实验：同样用 AI，老手被增强、新人陷入认知卸载 — xiaohu · 2026-10-26
- OpenAI 计算机使用 agent 团队：速度已逼近超越人类专家 — a16z · 2026-10-26
- 李开复新书《AI Native》上市：论企业如何成为 AI 原生公司 — kaifulee · 2026-10-26
- Nature 试验：ChatGPT 让咨询顾问短期提分，但技能提升是暂时的 — EricTopol · 2026-10-26
- 开发者谈 AI 做游戏争议：该抵制的是垃圾而非工具 — ezshine · 2026-10-26