词汇表税:裁剪 89.7% 无用词表让 LLM 更易端侧部署

kalyan_kpl · x · 2026-11-19

论文《The Vocabulary Tax: Safely Trimming Unused Tokens from LLMs for On-Device Use》提出一种降低 LLM 内存占用的方法:在保持分词器正确性的前提下删除未使用的词表条目。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →