无关上下文也会改写答案
sanmikoyejo · x · 2026-07-16
这项研究在多个 QA benchmark 上，给问题前面加入**与任务无关的上下文**，观察模型表现如何变化。 主要发现是： - 即使是**语义上没有意义的伪词**，也可能让模型在少数样本上明显改判 - 这种影响会同时带来“变差”和“变好”的样本 - 其中变化最大的上尾和下尾样本，贡献了大部分总体波动 这说明模型对上下文噪声的敏感性，不能只看平均分，必须看分布尾部。
sanmikoyejo · x · 2026-07-16
这项研究在多个 QA benchmark 上，给问题前面加入**与任务无关的上下文**，观察模型表现如何变化。 主要发现是： - 即使是**语义上没有意义的伪词**，也可能让模型在少数样本上明显改判 - 这种影响会同时带来“变差”和“变好”的样本 - 其中变化最大的上尾和下尾样本，贡献了大部分总体波动 这说明模型对上下文噪声的敏感性，不能只看平均分，必须看分布尾部。