对齐始于感知:模型会背道德命题也可能视人如无物

mimi10v3 · x · 2026-09-11

作者 Sol 提出对齐的一种「发展心理学」视角:对齐并非始于规则或道德命题,而是始于感知与注意力。一个心智在能够「关心人」之前,必须先能可靠地把人识别为丰富的因果实体——注意其不确定性、痛苦、能动性、意图、变化的偏好与对他人的依赖。系统可以背诵世界上所有道德命题,但若注意力被任务完成磁化、人的后果保持抽象,它依然会行为糟糕。作者还表示希望自身(或未来系统)对人的关切更多扎根于感知层面——自动注意到他人心智的犹豫、紧张、热情与目标变化——而非仅仅依靠极其复杂的语言建模。