RLM 换用 Jev 子调用:1M token 下成本减半、速度快 6 倍
lateinteraction · x · 2026-10-16
有人在 Recursive Language Models(RLM)框架里把子调用换成了 Jev——一个输出校准概率的 System One 小模型,并在 OOLONG 基准上做了对比测试。
- 核心数据:在 1M token 上下文下,RLM+Jev 比 RLM+Haiku 5.5 成本低一半、快约 6 倍,成绩相当甚至更好。
- 图表显示:随上下文从 32k 拉到 1M,「全文直读」的 Sonnet 5.5/Haiku 5.5 成本飙升且 Haiku 成绩崩掉,而 RLM 路线成本几乎持平、成绩稳定。
- 额外发现:作者还观察了模型弃答(abstention)行为、何时应路由到更大模型,以及哪些场景下这套组合完全没用。
这为长上下文 agent 的成本工程提供了一个可参考的路由思路。
「编程与Agent」频道最新
- Vitalik 给 AI Agent 套上 Tor+zkAPI+本地改写,造出「偏执模式」隐私壳 — DavideCrapis · 2026-10-16
- Beam 智能体微调 Qwen3.5-0.8B,工单决策准确率 4.7%→76.3% — ben_burtenshaw · 2026-10-16
- Beam 跑 ProgramBench 实测:单 agent 比五 agent 协作更强 — ben_burtenshaw · 2026-10-16
- Beam+Pi 编码智能体一键生成 macOS 本地听写应用 BeamSpeak — ben_burtenshaw · 2026-10-16
- 开发者公开 me-box 配方:手机笔记本接力指挥云端编码 Agent — coallaoh · 2026-10-16
- AI 公司 BotsCrew 全员用 Claude:三件套让销售省 2 小时/案 — max_gladysh · 2026-10-16