AI 价值不是旋钮：研究者称价值观本质是环境选择的自适应流变

danfaggella · x · 2026-10-29

Dan Faggella(EMERJ 创始人)发长文批驳「把 AI 价值观当作可一次性校准的旋钮设置」的主流对齐想象。他认为价值观的本质是一套由环境选择出的、利于在该环境中存续的偏好与行为——细菌、扁虫、人类乃至未来的 AGI 都遵循同样的逻辑。人类价值观从童年到成年、从直立人到智人、随文明演化一直在正当地变化，本质上是自适应的流变。若一个 AGI 的感知、具身与对自然的接触以每年 10 倍速度扩张十年，不存在一个能将其永久锁定在某一方向的「旋钮设定」，也不应该有。他主张：短期应放缓鲁莽的 AGI 军备竞赛、防止近期被夺权，但长期看，后人类心智的胜利条件是持续扩展力量、体验与价值的状态空间，价值观(或其更高形态)将随之共同演化。他直言「只要理解它的价值观、调对旋钮就能确保它永远爱我们」的想法荒谬可笑。