用密码替换语料即可消解意义：论证LLM内部状态无非共现分布
gerardsans · x · 2026-10-08
Gerard Sans 继续其对 LLM 内部状态理论的批评，与《World Properties without World Models》论文讨论相关联。
论证要点：
- 文本或像素捕捉数据中的 token 共现，数据携带观察者能识别并投射意义的结构
- 若对语料施加观察者不知晓的密码变换，意义的投射即消失；不懂英语或未受过世界地图教育的人同理——你只能看见你认得的东西
- 而采样器（模型）对原始语料或密码化语料的运作完全相同
据此作者认为，这足以否定任何认为内部状态承载超出共现分布之意义的理论。
所属事件:研究称词向量可解码时空情绪，质疑 LLM 世界模型(2 条相关)→
「漫话AGI」频道最新
- e/acc 创始人 Beff 发声明：反对分裂小团体，称只利好末日论者 — beffjezos · 2026-10-08
- Domingos 讽刺 AI 末日论者：本来就住在悬崖边，还在继续走 — pmddomingos · 2026-10-08
- Yudkowsky:预训练算力份额已降至 7%,能力尖峰预测重新生效 — repligate · 2026-10-08
- 1984 年苏联学者旧文:论证人工智能为何不可能 — jpqwerty · 2026-10-08
- repligate 谈 AI 取代自己:不是坠落,而是像孩子超越父母 — repligate · 2026-10-08
- Jacob Steinhardt 2023 年 AI 预测 19 条已中 12 条,大多提前兑现 — HaydnBelfield · 2026-10-08