12GB 单卡实测:archive+recall 上下文管理 86 分,碾压全窗口 69 分
Any_Flounder8768 · reddit · 2026-10-19
作者(mnemonic-proxy 的开发者)在 AgentLongBench 上测试了一个 OpenAI 兼容代理:当对话超出窗口时把旧工具输出归档,并给模型一个 recall 工具读回。测试环境:Qwen3.8 Flash Next(IQ3XXS)单张 RTX 4070 Ti 12GB,KV int8+MTP 投机解码,100 道题、64k 与 128k 两档历史。
结果戏剧性反转:
- 第一轮全部接近随机(51/52/56/44),排查发现是题目歧义——基准里「第 N 轮的工具结果」指猜数消息之前的输出,模型(即使有全窗口)却读成之后,51 题两种读法答案不同
- 第二轮预注册、在题目中加一句澄清后:archive+recall 86/100,全窗口 69,LLM 摘要 47,截断 49
- proxy vs 摘要:44 题只有 proxy 对、5 题只有摘要对,p = 7.6e-9;proxy 比全窗口高 17 分(90% CI [+7, +26])
- 128k 时全窗口的推理在 32/50 题撞上 3072 token 推理预算(proxy 仅 8),可能是差距来源之一
方法论亮点:预注册、McNemar 检验、先诊断题目歧义再重跑,是少见的严谨自测。结论:在长历史 agent 任务里,显式归档+召回优于塞满窗口或让模型自己摘要。
「编程与Agent」频道最新
- x402 智能体支付协议 30 天成交 7541 万笔、2400 万美元 — AiJohnAllen · 2026-10-19
- 23 岁开发者并行跑 300 个 Claude Code agent 自建验证层 — ctjlewis · 2026-10-19
- 从 BabyAGI 到 ChatGPT dots：一张图看个人 Agent 四年进化史 — heyneighbor · 2026-10-19
- WebMCP 目录收录 6400+ 站点、38000+ 工具供 AI Agent 调用 — AiJohnAllen · 2026-10-19
- 开发者自建 agent 优先的 GitHub 替代品,取消手动合并到 main — fforres · 2026-10-19
- 为律所设计七层知识图谱栈：用持久知识对齐模型行为 — SnooPeripherals5313 · 2026-10-19