KDA/Mamba 长缓存复用踩坑:恢复长 prompt 触发非法内存访问

TheZachMueller · x · 2026-09-21

作者简述一个工程踩坑经验:启用 cache 后存储并恢复长 prompt 可正常工作 ✅,但接着复用恢复后的 KDA/Mamba 状态做下一步计算时,会触发 illegal memory access(非法内存访问)错误。对于在长上下文/线性注意力模型上做 prompt cache 复用的开发者是一个具体的坑位提示。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →