Agent 集群比单个大模型更可解释吗?研究者激辩「稀疏性双刃剑」

voooooogel · x · 2026-09-09

一场关于 agent swarm 可解释性的推上辩论:@tszzl 认为 agent 集群可能比单个心智更可读(legible),因为存在消息板机制、且经过训练后各 agent 可以互相纠察监督,并把反对意见称为「应激式的卢德主义」。

@voooooogel 提出一个更折中的视角:swarm 本质是一种稀疏性(sparsity)。稀疏化让系统比等价的稠密巨型单体更可解释,但稀疏性在实践中又支撑了规模扩张,因此整体上反而比它们所替代的小型单体 agent 更难解释——可解释性并非随架构选择单调提升,规模是隐藏变量。