全误导时BaRe-Mem仍比独自推理高1.5到2.8点

BaRe-Mem: Bayesian Reliability Memory for Robust and Adaptive Agent Consultation

Peilin Feng, Zhengyang Huang, Soujanya Poria

cs.AI

2026-09-29

BaRe-Mem用隐状态做在线贝叶斯可靠性估计，九项基准六个模型上，全误导时仍比独自推理高1.5到2.8点。

这篇在解决什么

顾问给的不一定能用。能力随任务变，流畅的错建议会让中心模型把本来对的答案改掉。多数投票在顾问一起走向同一个错解时更糟，辩论也一样：吃紧任务上，误导过半之后，Question + Peers 和两轮辩论都会掉到独自推理以下。

文本记忆存轨迹和技能，连续记忆把经验压进隐状态。缺的是把历史变成「这条外部证据对当前题可不可信」，以及「现在该不该听」。能力足够强时，协作的边际收益会变薄，甚至变负。NTU DeCLaRe Lab 和北大用 BaRe-Mem 把这两件事做成在线贝叶斯记忆。

中心模型冻结，不加可训练参数。当前题上，它自己先答一份，同时读 K 个顾问。每个候选编成隐状态，拆成共享的问题信念 ψq 和该答案的内容信念 ψc。可靠性拆成来源在同类问题上的表现、这条回答内容本身、再加偏置。同一个顾问数学靠谱，不代表代码靠谱，内容本身也携带对错信号。

对错做成 +1/-1，贝叶斯线性回归维护权重。固定步长会把每条验证一视同仁；Kalman 增益按当前不确定度做秩一更新，方向上越不确定改得越多，不用重放历史。没证据时人人 1/2。可靠性 p 是预测正确概率。

选注意力改写，是因为 p 已经是每条回复的标量，可以直接压权重，不必再训一层，也不走 prompt 检索。p 进两处。

注意力：softmax 前给顾问 token 的 logit 加上 γ log(pk / max p)。最可信的不动，其他人按相对差距往下调。只改带 softmax 的 full-attention 层。
听不听：用自己那份答案估自主能力 κ，用顾问里最高的 p 当可信度 T。咨询能力是「证据可靠时能吃到多少」和「证据不可靠时会比独自推理差多少」的插值。咨询能力不低于 κ 才问人。自主越强，门槛越高。

同一套分数在团队里给 worker 排序：先派最可信的，被拒再试下一个。

九个基准两档。支撑档 GSM8K、APPS、SQuAD；吃紧档 PIQA、MMLU、OpenBookQA、SciQ、BBH、SuperGLUE。六个中心模型，六个顾问。误导比例 0% 到 100%：回复仍流畅切题，最终答案被换成错的。

吃紧档上多数投票崩得最快，100% 误导时顾问多数投票只剩 1.2，带上自己答案也只有 2.8（Qwen3-14B）。强制每题咨询、只做可靠性加权的消融在 100% 误导时也掉到独自推理以下。BaRe-Mem 把咨询率从约 85%–90% 降到 9%–21%，六个模型全程压过独自推理。

相对独自推理，吃紧档 +7.2 到 +12.4 点，支撑档 +4.3 到 +13.7 点。100% 误导、吃紧档上，比强制咨询消融高 13.0 到 34.6 点，比独自推理高 1.5 到 2.8 点。支撑档咨询率几乎不动，Qwen3-14B 从 87% 降到 85%，外部证据整体仍有用。

预测咨询收益和验证后的真实收益同向，分界点靠近零。反馈稀疏到不足 1%、大约 170 条，就已经比零反馈好，之后很快饱和。

MuSiQue 2417 题、6404 子任务，派工不用加权回答。无检查时随机路由约 23%；数据集验证器下 Qwen3-14B 和 Phi-4 带队分别到 54.3% 和 54.2%。能解的 worker 更早被点到。上限（至少一人能解）约 70%。

这是免训练的注意力偏置加一个在线回归器。要能读 hidden state、能改 softmax 注意力，还要有事后对错。顾问池质量不稳、任务域会漂、又不能假定每次问人都划算时，这套接口对得上。

「听谁」和「听不听」是两件事。只调相对权重解决不了顾问池整体不可信。稀疏金标就够用，不必每题验证。

支撑档增益更小，干净顾问时强制咨询消融还常常高零点几个点。主价值在吃紧任务和被污染的顾问池，不是全面换掉辩论。

正文没有 Limitations 节。附录写了校准地板：100% 误导时经验准确率接近 0，p 仍停在大约 0.2，极限 Φ(-1)≈0.159，因为观测噪声方差被钉在 1。线性高斯模型会给错误来源留一条尾巴。

更新吃的是已验证对错。实验用 gold label，错标会不会带偏记忆没测。误导是替换最终答案的受控污染，不是自然对抗，更不是顾问串通。黑盒 API 读不到隐状态、改不了注意力，接不上。

团队实验用数据集自带子任务，评价的是调度不是拆题。无检查和 lead agent 检查两档的细表要对原图，能确定的是验证器设置下约 54% 对随机约 23%。