FLA 库 KDA fast path 被曝前缀输出泄漏未来门控,下版修复
YouJiacheng · x · 2026-09-22
flash-linear-attention(FLA,5.8k star)库被曝出一个因果性 bug:在 commit cfaac24 上,CUDA/Triton 的 KDA chunk 路径在 usegateinkernel=True 且 safegate=True 时,违反前缀因果非干扰性——两个前缀完全相同的输入,仅改变后段门控值,就会得到不同的前缀输出、仅前缀损失和梯度。不改变前缀仅延长序列也会改变前缀结果,且复现 bitwise 一致,排除普通非确定性。
作者 DrissP 撰文分析了该 bug,yzhangcs 确认将在 FLA 下一版发布中修复。对依赖线性注意力门控做前缀缓存/增量推理的用户需留意。
「研究」频道最新
- Google 提出 RRSI:正则化约束 Agent harness 递归自我改进,OOD 仍涨 4.7 分 — google · 2026-09-22
- 北邮研究揭示视频扩散模型违反物理的根源:RoPE 注意力衰减锁死轨迹 — BUPT-CIST · 2026-09-22
- RoboDawn:用 VLM 加离散指令闭环控制机器人,零样本胜 π0.5 — Meng-Hao Guo · 2026-09-22
- HuRo 数据集:63 万条人类视频机器人化样本,VLA 预训练完成率 51.5%→80.3% — RLWRLD · 2026-09-22
- Siemens 携手伯克利发布 ARLI:推理延迟下也能对 VLA 做 RL 微调 — svlevine · 2026-09-22
- HWREBench 启动:让 AI 逆向破解亚马逊买的智能硬件,多数设备已被攻破 — johnowhitaker · 2026-09-22