投机解码推理加速文章推荐

charles_irl · x · 2026-07-07

@charles_irl向关注推理优化的读者推荐投机解码(speculative decoding)技术,分享了一张相关图表,并推荐阅读Hao Zhang(haoailab)实验室的相关文章。