NextLat 潜空间变长推测解码,推理加速最高 3.3 倍

morgymcg · x · 2026-09-02

转发 @jaydenteoh 关于 NextLat 的第 6 点优势:由于 NextLat 学习的是潜空间动力学,可实现变长推测解码(variable-length speculative decoding)——在潜空间递归起草任意数量的未来 token。号称推理加速最高 3.3 倍,快于 MTP 式起草。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →