LLM作为Agent时对无关上下文的鲁棒性
ChengleiSi · x · 2026-07-16
转发内容讨论了一个 agent 场景下的研究观察：当 LLM 面对大量无关上下文时，**整体准确率**看起来几乎不受影响，现代模型似乎越来越能忽略干扰。 但作者强调，这种“鲁棒”只是平均意义上的；在**单个样本**上，加入无关上下文仍可能让预测结果发生明显变化。也就是说，宏观指标稳定，不代表模型在每个例子上都真的不敏感。
ChengleiSi · x · 2026-07-16
转发内容讨论了一个 agent 场景下的研究观察：当 LLM 面对大量无关上下文时，**整体准确率**看起来几乎不受影响，现代模型似乎越来越能忽略干扰。 但作者强调，这种“鲁棒”只是平均意义上的；在**单个样本**上，加入无关上下文仍可能让预测结果发生明显变化。也就是说，宏观指标稳定，不代表模型在每个例子上都真的不敏感。