ICML 2025 论文主张：AI 研究不该再把 AGI 当北极星目标
haydenfield · x · 2026-09-15
一条由 Margaret Mitchell 等人转发的讨论：多位研究者发声质疑「超级智能」是否应被当作目标，Hayden Field 报道称 AI 学界多年来的警示正在形成越来越大的合唱——「请别急着造超级智能，我们没准备好，需要放慢」。
核心是一篇被 ICML 2025 接收的立场论文《Stop treating AGI' as the north-star goal of AI research》，由 Borhane Blili-Hamelin、Margaret Mitchell 等 16 位作者联署。论文指出围绕 AGI 的讨论会加剧六种「目标设定陷阱」：
- 共识幻觉（Illusion of Consensus）
- 助长坏科学（Supercharging Bad Science）
- 预设价值中立（Presuming Value-Neutrality）
- 目标彩票（Goal Lottery）
- 通用性债务（Generality Debt）
- 排斥常态化（Normalized Exclusion）
作者主张 AI 研究界应：1）在工程与社会目标上追求具体性；2）以多元主义为中心，允许多种路径追求多个有价值的目标；3）通过纳入更多学科与社区来促进创新，从而停止把 AGI 当作研究的北极星。
「漫话AGI」频道最新
- 业内提议模型发布前须过透明安全评估,参照 NIST 与 ISO 标准 — aronchick · 2026-09-15
- 物理学家谈 arXiv 与 AI 论文:加标记分区比一刀切禁令更现实 — skdh · 2026-09-15
- 推主反驳：现有 AI 未来预测全都没算进算法突破变量 — shauseth · 2026-09-15
- Yacine 断言 AI 难再更聪明,进步只剩速度可挖 — yacineMTB · 2026-09-15
- 开发者灵魂拷问：除写代码外 AI 真的提升了任何行业效率吗 — sebpaquet · 2026-09-15
- 建模：Anthropic 单独放慢仅买一个月，联合监管可减 20% 灾难风险 — soleio · 2026-09-15