KDA 记忆衰减用半衰期数学,α=0.99 时约 69 个 token

CatAstro_Piyush · x · 2026-07-29

KDA 的记忆衰减和放射性衰变其实是同一套半衰期数学:若记忆按 Sn = α^n S0 演化,则半衰期为 n½ = ln(0.5) / ln(α)。帖子举例说,α = 0.99 时半衰期约为 69 个 token。

配图里的公式进一步说明,KDA 会在不同记忆通道上学习不同的衰减参数,因此每个通道都有自己的时间尺度。也就是说,它不是只有一个统一的“记忆长度”,而是多个被学习出来的记忆跨度。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →