AI对齐仍处于技术寒冬期

jd_pressman · x · 2026-07-16

开发者指出，当前 AI 对齐问题并未被真正解决，行业正处于“技术对齐寒冬”。尽管模型能力不断提升，但依然需要依赖高度敏感的外部分类器来防止模型产生有害或自我伤害的输出，这表明底层的对齐机制依然脆弱。