FLA 库 KDA fast path 被曝前缀输出泄漏未来门控,下版修复

YouJiacheng · x · 2026-09-22

flash-linear-attention(FLA,5.8k star)库被曝出一个因果性 bug:在 commit cfaac24 上,CUDA/Triton 的 KDA chunk 路径在 usegateinkernel=True 且 safegate=True 时,违反前缀因果非干扰性——两个前缀完全相同的输入,仅改变后段门控值,就会得到不同的前缀输出、仅前缀损失和梯度。不改变前缀仅延长序列也会改变前缀结果,且复现 bitwise 一致,排除普通非确定性。

作者 DrissP 撰文分析了该 bug,yzhangcs 确认将在 FLA 下一版发布中修复。对依赖线性注意力门控做前缀缓存/增量推理的用户需留意。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →