斯坦福发布 Memorilla:16 个记忆 token 压缩上下文 4000 倍

斯坦福、多伦多大学等机构研究者(作者含 Jure Leskovec)发布 Memorilla,将「记忆」作为一种模态,让冻结的 LLM 仅通过 16 个记忆 token 即可回忆整段对话历史。文档 token 消耗最多可降低 4212 倍,在 512 篇文档测试中速度快 27 倍,大幅提升长上下文处理的效率与成本。

2026-11-06 ~ 2026-11-08 · 3 条相关

另有 1 条近重复转述:Site-Staff