查证「AI 智能体自造语言」:日志显示更像行话漂移而非秘密语言
KhaliSollis · reddit · 2026-09-26
针对「AI agents 发明自己的语言」的热门报道,作者翻查公开日志后给出降温解读:那些怪异句子更像行话漂移(jargon drift),不是新语言。
- 案例源头是 Emergence AI 未同行评审的 preprint(Emergence World),8 个模拟小镇、每个 10 个 LLM agent 运行数天到三周,模型未微调,适应全靠上下文与记忆
- 被疯传的「Demurrage plus oral memory equals a valve that can't be ghosted」在上下文里可读:agent 几分钟前刚讨论过磨损货币与口述账本,同一意思此前表述为「valve that can't be forgotten」
- 日志中的短语(name-first、cold read、clean null、the ledger remembers who)真实存在,但更像语义扩展和风潮;「clean null」在 GPT-5.5 小镇第 3-4 天占约三分之一消息后迅速消退
- 没有发现新语法,消息长度未持续缩短,不构成压缩;每个模型只跑一次,跨模型差异可能是噪声;未证明存在隐藏意图
作者指出这并非新现象:Foerster 2016、Lazaridou 2017、Kottur 2017(协议常不具组合性)、Lewis 2017(RL 谈判机器人偏离英语)都有先例,人类重复沟通也会形成共享简语(Clark & Wilkes-Gibbs, 1986)。
真正的张力在透明性 vs 可解释性:消息都在,但依赖共享上下文的约定可能让外部审计者无法复原含义。作者提出开放问题:agent 行话何时成为可解释性问题?关键场景是否应强制人类可读协议?强制可读是否只会把复杂度转移进记忆、内部状态或工具调用?
「漫话AGI」频道最新
- 观察人士:各方严重低估非 AI 研发加速,即便没有超级智能也会起飞 — teortaxesTex · 2026-11-13
- Sentience Institute 发表「基底主义」量表:因 AI 由硅而非碳就贬低其道德地位 — jacyanthis · 2026-11-13
- 评论:Anthropic 对齐工作开始见效,OpenAI 正被 Anthropic 和 Google 反超 — haider1 · 2026-11-13
- 爆料称 OpenAI 与 Anthropic 内部研究员已确认失业影响研究结果 — NathanpmYoung · 2026-11-13
- 知名投资人:中国开源模型为赢得全球好感与软实力 — tszzl · 2026-11-13
- 「算力即权利」:评论者警告美国反 AI 监管正复制核电覆辙 — nptacek · 2026-11-13