Goertzel 新文：用 d-微积分寻找「有益超级智能」吸引盆
burny_tech · x · 2026-10-06
Ben Goertzel 在 Substack 发表长文《Finding the Beneficial-Superintelligence Attractor》，探讨核心问题：一个不断自我改写的 AGI（重写记忆、推理习惯甚至处理自身目标的代码）如何在逐次升级中不丢失最初的价值承诺？
- 作者用其新提出的 d-微积分（面向会 fork、合并、学习、自我重写的「心智」的数学框架）论证：在哪些条件下自改进系统会倾向于保持目标，并可能演化进「有益超级智能」奇怪吸引子的吸引盆。
- 文章回顾了 90 年代末以来关于「自修改下的目标保持」与 wireheading（刺激奖励中心绕过真实任务）的经典讨论。
- 这是他前一篇超长数学文的续作，附更多图示，并计划配合 OmegaHive 实验验证。
所属事件:Ben Goertzel 发长文用 d-微积分论证有益超智能吸引子(2 条相关)→
「漫话AGI」频道最新
- Goertzel 旧文重提：2010 年就写下的"我不买账的可怕想法" — burny_tech · 2026-10-06
- Goertzel 撰文驳 Yudkowsky："人人都会死"误解了 AGI — burny_tech · 2026-10-06
- Rinehart 测算 AI 灭绝与灾难概率：结论没你想的那么悲观 — WillRinehart · 2026-10-06
- Goertzel 提出新数学框架 d-calculus，论证自改进 AI 如何守住目标 — burny_tech · 2026-10-06
- threepointone：讲故事是永不贬值的最高级技能 — threepointone · 2026-10-06
- Kevin Roose 新书《The AGI Chronicles》获纽约时报书评：AI 有灵魂吗 — kevinroose · 2026-10-06