超级智能的道德推理人类能否看懂?Jack Clark 与研究者激辩对齐前提

ahall_research · x · 2026-10-19

Anthropic 联合创始人 Jack Clark(Jabaluck)提出质疑:认为超级智能的推理不会以任何有意义的方式「对人类可读」。即使在智力范围极窄的人类内部,像「效率」这样的核心规范概念也只有极少数人能真正理解;超级智能至多给我们一个「降智版解释」,而指望人类投票批准其行动方案,是从人类制度惯性出发的过度外推——人类偏好民主更多是因为务实的制度比较,而非逻辑必然。

Aaron Hall 回应这是对其观点的有力反驳,但不确定「智能提升必然带来道德智慧提升」:至少在人类中的经验并非如此。Analisereal 补充:道德大多是环境塑造的「结晶智能」,是持有这些规范的群体存活下来留下的规范——道德由选择过程而非原始智力塑造。