ReplaySSM 进入 GLM-5.3-Flash 与 Kimi-K3 生产,解码提速 2.1 倍
Tri Dao 与 NVIDIA 合作发布 ReplaySSM 的生产化成果:该技术已被 GLM-5.3-Flash 和 Kimi-K3 用于生产环境,并集成进 TensorRT-LLM,解码速度最高提升 2.1 倍。Albert Gu 转发评论称,Transformer 推理已被整个生态打磨出几十种优化技巧,而 SSM 等替代架构仍有巨大优化空间。
2026-10-13 ~ 2026-10-13 · 2 条相关
- ReplaySSM 进驻 GLM-5.3-Flash 与 Kimi-K3,解码最高提速 2.1 倍 — tri_dao · 2026-10-13
另有 1 条近重复转述:SonglinYang4