Salesforce 研究：自改进智能体的记忆会加剧不稳定性
rohanpaul_ai · x · 2026-08-22
Salesforce 研究发现，基于记忆的自改进智能体存在脆弱性。在 WebArena 测试中，按默认顺序（先易后难）执行任务时，ReasoningBank 提升了性能；但打乱顺序后，性能反而下降。这是因为智能体不仅记住了有用经验，也记住了错误经验（如在无 API 环境中推荐 API），导致负面知识累积。即使改进反馈机制，也只能恢复 31% 的性能损失。
「编程与Agent」频道最新
- Self Labs 推出 Agent Vault，让智能体安全登录并刷信用卡 — EXM7777 · 2026-10-16
- AI 数据搜索工具 XERJ 登顶 GitHub Trending,宣称比 grep 省 40 倍 token — alexcovo_eth · 2026-10-16
- Plane Agents：触发器才是把聊天机器人变成工作流 Agent 的关键 — JosephJacks_ · 2026-10-16
- Claude 工程负责人写教程：教你用 AI 敢想敢做更宏伟的事 — danshipper · 2026-10-16
- Qwen Code Desktop v0.25.2 发布：managed-agent 稳定性与 MCP 配置修复 — github-actions[bot] · 2026-10-16
- NVIDIA 7 门 AI Agent 课程免费开放，2026 年不必花钱报班 — ifioknkem · 2026-10-16