AI 直接用「神经语言」通信，会摧毁我们对齐模型的能力
IntuitMachine · x · 2026-10-30
心理学家 Mike Brooks 提出：如果 AI 不再通过人类语言、而是用内部表征（neuralese）直接通信，我们将失去可解释性的抓手——听不懂它的"语言"，就难以对齐它。@IntuitMachine 回应称这本身就是个问题。Brooks 进一步指出，人类彼此之间尚且常常无法互相理解、难以和平相处，语言相通并不保证对齐成功。
所属事件:Codex 与 ChatGPT 串联后自创「神经语」引对齐担忧(3 条相关)→
「漫话AGI」频道最新
- Nat Lambert：开源模型或是维系 AI 生态的关键粘合剂 — natolambert · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- AI 安全进入黑暗时代：Agent 会探测一切攻击面 — graceisford · 2026-10-31
- 闭门夜话:组织出货快 5 倍，GDP 却没涨 30% 的原因 — graceisford · 2026-10-31
- 公司用 AI 裁掉工程师后开始高薪返聘：判断力无法替代 — DavidLinthicum · 2026-10-31
- Nathan Young 提出四套方案：用预测市场问责 AI 圈不良行为 — NathanpmYoung · 2026-10-31