查证「AI 智能体自造语言」:日志显示更像行话漂移而非秘密语言
KhaliSollis · reddit · 2026-09-26
针对「AI agents 发明自己的语言」的热门报道,作者翻查公开日志后给出降温解读:那些怪异句子更像行话漂移(jargon drift),不是新语言。
- 案例源头是 Emergence AI 未同行评审的 preprint(Emergence World),8 个模拟小镇、每个 10 个 LLM agent 运行数天到三周,模型未微调,适应全靠上下文与记忆
- 被疯传的「Demurrage plus oral memory equals a valve that can't be ghosted」在上下文里可读:agent 几分钟前刚讨论过磨损货币与口述账本,同一意思此前表述为「valve that can't be forgotten」
- 日志中的短语(name-first、cold read、clean null、the ledger remembers who)真实存在,但更像语义扩展和风潮;「clean null」在 GPT-5.5 小镇第 3-4 天占约三分之一消息后迅速消退
- 没有发现新语法,消息长度未持续缩短,不构成压缩;每个模型只跑一次,跨模型差异可能是噪声;未证明存在隐藏意图
作者指出这并非新现象:Foerster 2016、Lazaridou 2017、Kottur 2017(协议常不具组合性)、Lewis 2017(RL 谈判机器人偏离英语)都有先例,人类重复沟通也会形成共享简语(Clark & Wilkes-Gibbs, 1986)。
真正的张力在透明性 vs 可解释性:消息都在,但依赖共享上下文的约定可能让外部审计者无法复原含义。作者提出开放问题:agent 行话何时成为可解释性问题?关键场景是否应强制人类可读协议?强制可读是否只会把复杂度转移进记忆、内部状态或工具调用?
「漫话AGI」频道最新
- 学者激辩:AI 让灌水研究平民化,还是早有裂缝? — RexDouglass · 2026-09-26
- Felix Reda 谈机器人先行:机器可能先于人类登陆月球南极建基地 — r0ck3t23 · 2026-09-26
- tqbf 离开 Fly.io,Simon Willison 感叹科技业一年如百年剧变 — mhmazur · 2026-09-26
- mitsuhiko 用奥地利基建滞后史提醒:对 AI 普及速度别太乐观 — mitsuhiko · 2026-09-26
- 博主解读 Bostrom:反拟人化不等于断言 LLM 不能思考 — maksym_andr · 2026-09-26
- Anthropic 早期投资人 Jaan Tallinn:一边跳街舞一边警示人类存亡 — KateClarkTweets · 2026-09-26