人类价值观高度共享，AI 对齐难点在哪？

_aidan_clark_ · x · 2026-08-06

讨论了 AI 对齐问题的本质与挑战。一方指出，认为对齐不是真问题的人往往没有深入思考过这个既合理又困难的课题。

另一方从人类价值函数的角度切入，指出人类之间的价值观高度共享，以至于在绝大多数情况下，即使是最关键的请求也存在巨大的「未指定性」，因为大家都默认对方能理解隐含的共识。因此，AI 对齐的核心目标，就是确保 AI 在处理那些我们能明确表达的指令时尊重这些价值观的同时，也能尽可能地去尊重那些隐含的、未被显式表示的人类价值观。