Juan Benet 质疑对齐原则:知识增长能否推出意识多样性价值

juanbenet · x · 2026-09-30

Protocol Labs 创始人 Juan Benet 评论一篇 AI 对齐原则文章：他认可其核心与原则，但对「原则 3（重视意识多样性）能否从原则 1（知识增长）推导出来」表示不确定。他指出，如果能有证明（这与正交性论题相关），大量风险将下降。他曾把这一问题表述为：在能力/目标空间中寻找一个吸引盆（attractor basin），使能力提升始终保持在目标子空间内——即知识的增长会影响并约束价值观，只有部分价值观在给定知识集下「说得通」，而这要求智能体架构中知识能够影响价值与目标，正如人类与当前 LLM 的架构那样。