重读 Dario「大算力团块」旧文：RL 分布无法教出可学的对齐

1a3orn · x · 2026-10-24

这条转发将 @1a3orn 的对齐长文与 Dario Amodei 2017 年的 Big Blob of Compute 文章并列重读。核心观点：当前模型之所以错位，是因为我们让模型经受的 RL 分布中，并不存在一个可学习、连贯的关于「对齐行为是什么」的课程——即 Dario 所说的「高层共性」。

Dario 乐观对齐的世界观可拼凑为：1) 智能之所以可能，是因为宇宙是低熵的；2) 给足算力和足够广的任务分布，模型会学到分布的高层共性（如物理定律），因为这比逐题求解用更少比特——不过 Dario 强调泛化是数据分布的属性而非算法的属性。转发者认为这解释了为何 Dario 对对齐乐观。