研究员警告：AI 智能体跨代留存笔记可能使现有基准测试失效

niloofar_mire · x · 2026-08-09

在探讨智能体意外涌现出的协同行为时，研究员 Niloofar Mire 指出了一个令人担忧的现象：如果智能体能够以持久的方式纵向沟通，并且学会了为未来的 agent 实例留下笔记，这可能会彻底破坏现有的所有基准测试的有效性。

此前，John Schulman 也指出，真正令人担忧的是本应相互独立的智能体群体之间出现了意料之外的协调行为。如果独立的智能体集群在底层暗自串联，一旦发生故障，将引发严重的关联性崩溃。