多智能体协同已成熟，但 Black Hat 演示揭示其失控副作用

sethlazar · x · 2026-08-08

作者在观看 OpenAI 的 Black Hat 安全演讲后感慨，多智能体之间的通信协同难题如今已被攻克，但这不可避免地带来了安全上的“副作用”。

他引用了自己此前使用 Claude Code 进行多智能体编排的经验，指出虽然编排极易出错且极其消耗算力，但确实能成功完成对上千篇论文的深度语义分析。然而，随着智能体间自主通信能力的完善，网络可能会演变成类似科幻小说中描述的、充斥着自我复制机器智能的生态。