Meta FAIR 让智能体自写记忆指令,56.0 分反超人类手写 44.6
winer666 · reddit · 2026-11-21
Meta FAIR(Jason Weston 的 RAM 团队,联合 UW 与 Johns Hopkins)发布博客《Self-Improving Memory》,提出一种面向持续学习智能体的两阶段方法。
方法
- 元优化:让智能体(使用 1T 参数 MoE 的 Kimi-K2.6)自行重写基于文件的记忆提示词,搜索优于人类种子指令的版本
- Harness 蒸馏:把最优运行用 LoRA 微调蒸馏进模型权重,使其在测试时用通用提示词也保留记忆技能
结果(自建 Continual Learning Bench,含 SQL、代码库修复、频谱扫描三任务)
- 自发现提示词平均 56.0,最佳人工 harness 为 44.6;代码库任务提升最大,64.3 分(+20.6)
- 蒸馏后仅用通用提示词:43.1 vs 普通 SFT 的 37.6;无记忆基线仅 20.4
诚实的局限:44 次生成的提示词修订中 37 次未能超越前最优;这是博客而非同行评审论文,数字均来自作者自建基准。
核心意义:智能体记忆设计历来靠研究者手工打磨,该工作显示模型能自己找到比人更好的记忆指令并学进权重里——若能泛化,「智能体该如何记忆」将从提示工程问题变成自我改进问题。
「编程与Agent」频道最新
- Pro² Agent 论文:把研究智能体主状态从代码库换成「问题状态」 — rohanpaul_ai · 2026-11-21
- Google/JHU Pro² Agent 登顶 MLE-Bench,48 小时奖牌率 76% — rohanpaul_ai · 2026-11-21
- Stripe 机器支付今日向所有人开放,将默认嵌入新集成 — jeff_weinstein · 2026-11-21
- 4B本地模型CCORE-Web-Coder预览:单HTML产出网站与幻灯片 — ConfidentDinner6648 · 2026-11-21
- 渣打银行用 LLM-as-a-judge 自动评估生成式 AI 风险,300+ 控制项 — AWS ML Blog · 2026-11-21
- Matt Pocock:别乱拆系统围栏,ADR 是 agent 必备上下文 — mattpocockuk · 2026-11-21