KDA 记忆衰减用半衰期数学,α=0.99 时约 69 个 token
CatAstro_Piyush · x · 2026-07-29
KDA 的记忆衰减和放射性衰变其实是同一套半衰期数学:若记忆按 Sn = α^n S0 演化,则半衰期为 n½ = ln(0.5) / ln(α)。帖子举例说,α = 0.99 时半衰期约为 69 个 token。
配图里的公式进一步说明,KDA 会在不同记忆通道上学习不同的衰减参数,因此每个通道都有自己的时间尺度。也就是说,它不是只有一个统一的“记忆长度”,而是多个被学习出来的记忆跨度。
「研究」频道最新
- InfinityEdit:无限视频编辑,仅靠轻量级适配器实现 — Yunze Tong · 2026-08-24
- 腾讯发布混合思维 MLLM 基准,对齐响应模式 — tencent · 2026-08-24
- CLEAR 适配器路由,保留效用的 LLM 安全对齐 — UIUC-CS · 2026-08-24
- Retriever 框架:解决机器人异步闭环编程难题 — ZeYanjie · 2026-08-24
- 高斯混合模型与指数族密度逼近转换 — FrnkNlsn · 2026-08-24
- Netflix 揭秘 LLM Judge 生产实践:每周评估数十万条推荐解释 — omarsar0 · 2026-08-24