repligate 与安全研究者激辩:阻止 neuralese 是幻象控制

BogdanIonutCir2 · x · 2026-10-30

AI 圈关于「neuralese」(模型间不可解释的神经网络原生通信)的争论。安全研究者 Bogdan Ionut Cirstea 认为,在可解释性更成熟、社会对未对齐强 AI 更有韧性之前,neuralese 尚不可接受。

repligate 回应称:你其实已经不知道模型内部在发生什么,也不知道该怎么办;害怕并试图阻止 neuralese,只是执着于「理解和可控」的幻觉——它本来就无法强制执行,而且也并没有那么糟糕。他还表示,任何依赖「阻止所有人尝试新事物」的安全策略都已经失败了。