数学家公开信引争论:AI 自动化搜索会丢失人类的偶然洞见吗

curious_vii · x · 2026-09-12

围绕数学家公开信的讨论。作者认为善意解读是:实验室在对数学探索做 goodharting,自动化搜索的粗暴优化可能错过人类探索途中意外发现的洞见。他部分同情这一立场,但提出可以用「有趣度/惊喜度」作为代理指标索引自动化搜索产生的数字副产物(呼应 Schmidhuber 的定义),交由人类决定哪些偶然线索值得深挖。最后认为信的实质更像「别抢我们的谜题」。