RLM 递归语言模型:让 LM 在 REPL 中递归调用自己处理超长上下文
gordic_aleksa · x · 2026-09-20
RLM(Recursive Language Model)是一种推理策略:语言模型可把输入上下文当作外部数据编程操纵,并对其中选定部分递归调用自己或其他 LLM。
与常规 coding agent 的关键区别在于:全部输入和中间结果都存放在外部 Python REPL 中,根 LM 只决定执行哪些计算,从而缓解 context rot。
工作流程示例(从 5k 条数据中统计特定用户的 entity 问题数):
- 根 LM 不直接接收 5k 条数据,它们存在 REPL 变量 context 中
- 先 print(context[:2000]) 探查数据格式
- 用 Python 过滤出相关行,从 5k 条压缩到 347 条,不污染上下文
- 将相关行分块(每块 50 条),递归发起 7 次子 LLM 调用分别分类,最后汇总结果
作者还指出最关键的一点:可以在此 harness 内对根 LM 做 RL 后训练——在这一抽象层级上许多问题结构相似,泛化效果显著更好。工作出自 Alex L. Zhang 与 lateinteraction。
所属事件:RLM 递归语言模型发布:GPT-5-mini 长上下文答题数超 GPT-5 两倍(2 条相关)→
「编程与Agent」频道最新
- 在自建 agent harness 里集成 /goal 功能,omarsar 分享定制思路 — omarsar0 · 2026-09-20
- Omarchy 带火 Linux 桌面,2026 或成 Linux 桌面之年 — mark_k · 2026-09-20
- 有 Agent 滥用文档请求实现任意远程代码执行 — zainhas · 2026-09-20
- Yacine:能在手机上写代码后,刷推时间大幅缩水 — yacineMTB · 2026-09-20
- 开发者上线 Skills 浏览站,可视化流程图看懂 AI 技能逻辑 — spersingerorinda · 2026-09-20
- 30 分之一成本达到 99.5% 一致:两个「jev」小模型实战用例 — multiply_matrix · 2026-09-20