小模型记忆层实测:加 ChatSorter 追平 GPT-4o 原生能力
Excellent-Fan8457 · reddit · 2026-08-30
作者构建了 ChatSorter 记忆层 API,并使用 Gemma 2 9B、Gemma 3 4B/12B 在 LoCoMo 长对话数据集上进行了基准测试。
关键发现:
- 配合 ChatSorter 记忆层的小模型(4B-12B)准确率约为 55-60%。
- 这一成绩与未使用记忆层的 GPT-4o(约 60%)相当,而模型参数量仅为后者的约 1/17。
- 对比显示,如果仅依赖模型自身(无记忆层),小模型的表现会显著下降。
作者认为,这证明了通过外挂记忆层,小型开源模型可以在长对话任务中达到顶尖模型的水平。
「编程与Agent」频道最新
- 用 Codex 17分钟写好 iPhone Duo 抢购程序,41项测试通过 — xiaohu · 2026-10-16
- 生成式 CAD 工具 NativeCAD 提供 177 个 MCP 工具,85% 以上英文建零件需求可通过 — burhop · 2026-10-16
- Flux AI CAD 支持导入 STEP 文件后用自然语言直接改型 — burhop · 2026-10-16
- 同时开 50 个 AI 任务是充电还是烧脑?开发者吵起来了 — zack_overflow · 2026-10-16
- 创业者用 Opus 一次清掉 3 万行技术债,印证「等新模型来重构」策略 — lucasmeijer · 2026-10-16
- 日本工程师用 tmux 搭建 AI agent 组织:每项目一队,人只对接总管 — 4310sy · 2026-10-16