Yudkowsky 怒斥可解释性新进展，转发者反驳「末日论者永远可以说不够」

AlexTensor · x · 2026-10-16

转发的原推展示 Eliezer Yudkowsky 对可解释性新发现的激烈回应：有人称「多义性与叠加态曾让可解释性显得很难，但在大网络里终于找到了单个神经元」，Yudkowsky 对此爆粗反驳，认为这类发现离真正理解一个心智如何思考还处于「最初级的游乐场」，机制可解释性远未达到能做对齐的水平。

转发者 Zack Korman 借此批评末日论者的论证结构：任何进展他们都可以说「不够」或「没用」，从而永远悲观（perma-doom）；但正是这些「不够」的进展累加起来才构成安全屏障。这条讨论折射出 AI 安全圈里可解释性进展价值判断的根本分歧。