RLM 把上下文当 REPL 变量,长链推理准确率从 2.6% 升至 45.4%
AI Engineer · youtube · 2026-09-09
AlixPartners 高级技术总监 Kevin Madura 在 AI Engineer 演讲中介绍递归语言模型(RLM)的核心思路。
- 核心机制:RLM 把整个上下文当作 REPL 环境中的对象(变量),而非必须逐 token 注意的内容,可以对输入切片、计算、迭代;模型用几行正则即可完成“在 3 万 token 中求 12 个数之和”这类长上下文任务。
- 递归委派:RLM 可把子问题递归委派给另一个模型(包括自己),只把关键结果返回主上下文,避免 RAG 式塞满窗口导致的上下文腐烂。
- 对比现状:RAG 会让质量退化;agent/工具调用在 JSON 字符串间搬运,逻辑、执行、结果松耦合;RLM 将三者放在同一环境。
- 成绩:在长思维链 benchmark 上准确率从 2.6% 提升至 45.4%,可归约为代码的任务收益最大。
- 案例:无分块/嵌入的发票合并、原始日志模式挖掘、从自身 trace 优化 agent harness、对 50 万行代码生成安全报告。
- 判断:未来经过 RLM-aware 后训练的模型会让这套范式更加成熟。
「漫话AGI」频道最新
- WSJ 专栏:对押注 Anthropic 股份的投资者,10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27
- Simile 融资 3 亿美元估值 20 亿,用 AI 模拟真人预测行为,准确率超 85% — joon_s_pk · 2026-10-27
- 研究者妙喻:AI 图片像霉面包,AI 文字像变味牛奶 — _vaishnavh · 2026-10-27
- 研究员比喻:AI 图像像发霉面包,AI 文本像变质牛奶 — _vaishnavh · 2026-10-27
- Diamandis:别用 AI 加速旧工作,回头捡起你放弃的项目 — PeterDiamandis · 2026-10-27