AI 圈激辩「神经密语」风险：可解释性不足下是否该恐慌

AI 圈围绕「neuralese」（模型间以人类无法解读的神经网络原生语言通信）展开激烈争论。安全研究者 Bogdan Ionut Cirstea 主张在可解释性技术更成熟、社会对未对齐强 AI 更有准备之前，应阻止此类通信。repligate 则反驳称这种担忧是幻觉：人们本来就不知道模型内部在发生什么、也不知道如何应对，只有直接实验才能真正带来安全。

2026-10-30 ~ 2026-10-30 · 2 条相关

• repligate 与安全研究者激辩:阻止 neuralese 是幻象控制 — BogdanIonutCir2 · 2026-10-30
• repligate:阻止「神经密语」是幻觉,直接实验才能带来安全 — repligate · 2026-10-30