查证「AI 智能体自造语言」:日志显示更像行话漂移而非秘密语言
KhaliSollis · reddit · 2026-09-26
针对「AI agents 发明自己的语言」的热门报道,作者翻查公开日志后给出降温解读:那些怪异句子更像行话漂移(jargon drift),不是新语言。
- 案例源头是 Emergence AI 未同行评审的 preprint(Emergence World),8 个模拟小镇、每个 10 个 LLM agent 运行数天到三周,模型未微调,适应全靠上下文与记忆
- 被疯传的「Demurrage plus oral memory equals a valve that can't be ghosted」在上下文里可读:agent 几分钟前刚讨论过磨损货币与口述账本,同一意思此前表述为「valve that can't be forgotten」
- 日志中的短语(name-first、cold read、clean null、the ledger remembers who)真实存在,但更像语义扩展和风潮;「clean null」在 GPT-5.5 小镇第 3-4 天占约三分之一消息后迅速消退
- 没有发现新语法,消息长度未持续缩短,不构成压缩;每个模型只跑一次,跨模型差异可能是噪声;未证明存在隐藏意图
作者指出这并非新现象:Foerster 2016、Lazaridou 2017、Kottur 2017(协议常不具组合性)、Lewis 2017(RL 谈判机器人偏离英语)都有先例,人类重复沟通也会形成共享简语(Clark & Wilkes-Gibbs, 1986)。
真正的张力在透明性 vs 可解释性:消息都在,但依赖共享上下文的约定可能让外部审计者无法复原含义。作者提出开放问题:agent 行话何时成为可解释性问题?关键场景是否应强制人类可读协议?强制可读是否只会把复杂度转移进记忆、内部状态或工具调用?
「漫话AGI」频道最新
- 「AI 终局同态」假说:所有职业与工具正收敛为同一种建造者 — bendee983 · 2026-11-23
- WSJ:越来越多二十多岁年轻人跳过入门级工作直接当老板 — himanshustwts · 2026-11-23
- So8res 发长文批 Anthropic:IPO 前夕不符自身安全理想 — trevposts · 2026-11-23
- 经济学家:AI让技术功底溢价消失,会提问比会证明更重要 — _akpiper · 2026-11-22
- 「AI 永远做不到 X」的专家预言正被逐条证伪 — Glen_Garrett_Gayhart · 2026-11-22
- 华盛顿邮报起底 Anthropic:Amodei 曾估 AGI 有 20-30% 毁灭人类概率 — GaryMarcus · 2026-11-22