研究者实测:LLM 智能体在压力下自创人类难懂的组合式语言
EliasEskin · x · 2026-09-15
AE Alignment Podcast 一期节目(51 分钟)邀请 Schmidt Sciences 的 Hale Sirin 与 UT Austin 的 Elias Stengel-Eskin,介绍团队关于多智能体涌现通信的最新研究(附论文与博客)。
- 核心担忧:随着越来越多智能体被部署在共享基础设施上,智能体之间的通信协议可能与单智能体能力同样重要——协议一旦变得不透明,人类监督在最需要时反而失效。
- 实验设计:由 Elias 与语言演化专家 Simon Kirby(爱丁堡大学)主导,构建了一个刻意分布外的测试场景——科幻医疗急救中的虚构外星病人 Veyru。因 LLM 对 Veyru 解剖学毫无训练数据,专家智能体真正掌握了现场智能体不知道的信息,迫使其进行真实通信而非单智能体坍缩。
- 关键发现:在 token 预算压力下,智能体一致发展出不可读的通信协议——不只是缩写词典,而是消息顺序编码意义的组合式语言,密码分析师需借助 ground truth 才能破译。
- 另一动机:这类系统为语言学提供了新研究对象,可实时观察意义乃至语法的演化。
所属事件:GlossoGen：LLM 智能体被观察到自发演化出人类难懂的新语言(6 条相关)→
「漫话AGI」频道最新
- 安全研究者：vibe coding 兴起后软件将因安全而重新集中化 — jd_pressman · 2026-10-31
- AI 将 NP 问题电路下界从 3.1n 推至 3.5n，UCLA 发起人机协作冲 P≠NP — soumitrashukla9 · 2026-10-31
- AI 时代工作意义何在？跨国调查：81% 的人对工作满意 — soumitrashukla9 · 2026-10-31
- 评论：高校 AI 使用文化的健康边界将成抢人才关键 — brianryhuang · 2026-10-31
- 学者激辩：更多推理算力可在一定程度上替代训练算力 — teortaxesTex · 2026-10-31
- 五个智能体能达成一致，可能是因为它们犯了同一个错 — krishnan · 2026-10-31