Salesforce 研究：自改进智能体的记忆会加剧不稳定性

rohanpaul_ai · x · 2026-08-22

Salesforce 研究发现，基于记忆的自改进智能体存在脆弱性。在 WebArena 测试中，按默认顺序（先易后难）执行任务时，ReasoningBank 提升了性能；但打乱顺序后，性能反而下降。这是因为智能体不仅记住了有用经验，也记住了错误经验（如在无 API 环境中推荐 API），导致负面知识累积。即使改进反馈机制，也只能恢复 31% 的性能损失。