开发者探讨持续学习模型：天生难以对齐，或带来类意识体验

erikphoel · x · 2026-08-09

作者对 AI 的持续学习提出几点预测：首先，实现真正的持续学习将非常困难。其次，它可能与意识和自由意志存在关联，具备该能力的模型会显得更具“生命力”。

在对齐方面，作者认为从数学上根本无法控制持续学习系统的演化方向，因此它们默认且永远处于未对齐状态。唯一的安全保障是依赖极其先进的机械可解释性进行持续监控，但这在规模化应用时面临巨大挑战，且这种监控机制极易被人为关闭。