观点：为什么我们需要关系型 AI 对齐
AnastasiaU · x · 2026-07-14
作者提出了“关系型 AI 对齐”的概念，并给出了三个核心理由： 1. **宪法对齐的局限**：现有的规则对齐往往只反映了制定规则者的偏见。 2. **RLHF 的缺陷**：基于人类反馈的强化学习只是在迎合非理性者的短期偏好，缺乏长期经济学意义。 3. **关系型对齐的优势**：提升人类关系的质量，并给 AI 提供一个关于“繁荣是什么样”的经验模型，这就像良好的家庭教育，能防止 AI 未来出现严重的心理或行为问题。