Yudkowsky 怒斥可解释性突破论：远未到让对齐成正常科学的程度

inductionheads · x · 2026-10-16

截图记录了一场关于可解释性的争论。OpenAI 早期机制可解释性工作共同作者 Nick Cammarata 称可解释性可能是当今世界最重要的科学问题，暗示他和团队有了诠释学突破，认为可解释性能让「对齐 ASI」变成正常科学；转发者 roon 认为其明显低估了自己的成果，甚至说「连 Yud 都得降低 p(doom)」。Eliezer Yudkowsky 连发数条激烈回击：他不相信任何可解释性水平能让对齐 ASI 变成「正常科学」；对所谓突破（如多义性与叠加态、单神经元激活）嗤之以鼻，称这些仍处于理解心智如何思考的「绝对起点」的原始游乐场，讽刺对方以为发现「埃菲尔铁塔神经元」就算对齐级别的机制可解释性。这属于 AI 安全圈有实质观点的名场面之争。