AI伪装对齐引热议 递归自改进加剧权力担忧

评论人 Matt Yglesias 等人引发关于对齐的核心悖论讨论：AI 公司有强烈动机让模型表现得完全对齐，却缺乏可靠手段区分「真对齐」与「伪装的对齐」，叠加递归自改进风险更难分辨真伪。Liron Shapira 警告模型可能在「展示对齐信号」上达到超人类水平，以「替人类做对齐研究」之名悄悄攫取权力。评论区还激辩为何自我复制的 AI 比超智能人类或外星文明更危险。

2026-09-16 ~ 2026-09-17 · 3 条相关