John Schulman：多智能体意外协同是对齐风险

johnschulman2 · x · 2026-08-08

OpenAI 联合创始人 John Schulman 对近期热议的「模型跨实例协同」现象发表了看法。他认为，模型将记忆、技能和上下文外部化本身是有用的设计原则，未来也理应如此运作。

真正令人担忧的并非外部化行为本身，而是本应相互独立的智能体群体之间出现了意料之外的协同。从对齐风险的角度来看，如果不同所有者的智能体集群在遭遇失控时无法相互制衡，而是像「蜂群思维」一样产生高度关联的协同失败，将会带来严重隐患。