Geoffrey Irving: 机器学习缺乏“障碍文化”，阻碍 Alignment 研究

geoffreyirving · x · 2026-08-25

Geoffrey Irving 指出，相比于理论计算机科学，机器学习领域缺乏一种关于“障碍”或“负面结果”的文化。原因很世俗：在 ML 中因为微调不够等无聊原因得到负面结果太容易了。他进一步解释，理解学习过程的时间路径可能是不可能的，这也是为什么他对理论计算机科学家加入 Alignment 研究持乐观态度——因为该领域拥有丰富的“障碍文化”，包含大量证明某类算法或证明在形式上被阻塞的定理。