Memorilla:16个记忆嵌入替代全上下文,省4212倍token

Stanford AI Lab转发的Memorilla项目为LLM引入潜在语义记忆:它将长文本输入和agent轨迹压缩为16个记忆嵌入,注入冻结的LLM,无需训练即可使用,被视为RAG之外的0到1创新。官方宣称相比全上下文推理最多可减少4212倍token、快27倍,且精确度更高。

2026-11-06 ~ 2026-11-06 · 3 条相关