MemBukkit 开源:换个思路做 LLM 长期记忆,简单索引打平花哨方案

AOZakari · reddit · 2026-08-28

一位 XAI 方向博士生因现有 LLM 记忆方案「SlopFest」(SOTA 宣称靠可疑评测撑着、一到真实项目就崩)而开源了 MemBukkit(Apache 2.0,本地可用)。

核心观点:「语义上相似」不等于「对回答有用」——问「家人下周什么时候有空」,语义检索带回一堆家人相关的琐事,真正需要的信息却埋在无关对话里。常见做法是把整个记忆丢给推理模型去筛,等于承认检索太烂、把难处外包给最贵的大模型。MemBukkit 反其道:存储端刻意无聊(带日期的事实+原始来源、扁平索引、可选桶,没有每次假设变了都要重建的 LLM 生成图谱),把聪明才智花在检索侧——检索组件按任务训练,访问策略依据「取回的上下文是否让 reader 答得更好」来选择。

成绩:Gemma 4 26B 作为开源 reader 时 LongMemEval-S 88.8%;GPT-5.4 方案在官方 judge 下 92.6%;LoCoMo 零样本 87.5%,扁平索引思路还能迁移到多跳 RAG。消融中一个有趣发现:朴素的余弦相似度能打赢一些花哨的 rerank 方案。作者计划发表研究并同时围绕它创业,但承诺核心保持开源。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →