AI对齐研究被批过度技术化
joshua_saxe · x · 2026-07-16
作者认同自己对 AI alignment 研究范式的批评虽然不如正式调查那样严谨，但仍是合理的。 核心观点是：当前 AI safety 研究范式在库恩式意义上已经“内嵌”了某种偏置。这个范式由一整套简化假设、研究对象、资本与基础设施、训练项目和经典著作共同构成，例如 MATS、Bostrom / *Superintelligence* 等，它们把“失配”主要框定为一个技术问题。 作者认为，这种框架严重低估了社会与社会过程应作为第一类研究对象的重要性。