老派对齐研究回避理解深度学习， jd_pressman 批 MIRI 时代范式自缚

jd_pressman · x · 2026-10-29

jdpressman 在与 FioraStarlight 的讨论中回顾了「对齐 vs 能力」二分法的历史：在 MIRI 时代及之后一段时间，许多对齐研究者为避免「推进能力」，刻意不去思考或讨论 AI/深度学习的工作原理。

他后续补充，这种自我审查式的做法实际上削弱了对齐研究者本身——他们因此不真正理解深度学习，主动把自己从理解机制的人群中筛了出去。FioraStarlight 则用类比反驳：人类有「能力」做坏事但不做，靠的是价值对齐，这不同于幼儿单纯的「缺能力」。