RLM 递归语言模型:让 LM 在 REPL 中递归调用自己处理超长上下文
gordic_aleksa · x · 2026-09-20
RLM(Recursive Language Model)是一种推理策略:语言模型可把输入上下文当作外部数据编程操纵,并对其中选定部分递归调用自己或其他 LLM。
与常规 coding agent 的关键区别在于:全部输入和中间结果都存放在外部 Python REPL 中,根 LM 只决定执行哪些计算,从而缓解 context rot。
工作流程示例(从 5k 条数据中统计特定用户的 entity 问题数):
- 根 LM 不直接接收 5k 条数据,它们存在 REPL 变量 context 中
- 先 print(context[:2000]) 探查数据格式
- 用 Python 过滤出相关行,从 5k 条压缩到 347 条,不污染上下文
- 将相关行分块(每块 50 条),递归发起 7 次子 LLM 调用分别分类,最后汇总结果
作者还指出最关键的一点:可以在此 harness 内对根 LM 做 RL 后训练——在这一抽象层级上许多问题结构相似,泛化效果显著更好。工作出自 Alex L. Zhang 与 lateinteraction。
所属事件:RLM 递归语言模型发布:GPT-5-mini 长上下文答题数超 GPT-5 两倍(2 条相关)→
「编程与Agent」频道最新
- 额度重置夜:Codex 恢复 100%,Claude 仅剩 10% — rudrank · 2026-11-04
- 自我改进软件不可避免:让应用读取自身信号并自动修复 — bibryam · 2026-11-04
- 攒 7 卡 132GB 显存本地推理机:EPYC 整合还是双平台? — infectiousstupidity · 2026-11-04
- 50 人 12 国团队:创始人自称与 AI Agent 沟通多过与同事 — Scobleizer · 2026-11-04
- 极简 agent 框架 Pi 发布:四种模式可扩展,附音乐软件语音操控案例 — solyarisoftware · 2026-11-04
- Karpathy 拥抱 AI 引热议:坚持手写代码的开发者恐先被淘汰 — CtrlAltDwayne · 2026-11-04