用抽奖券解释 token 采样
ProfTomYeh · x · 2026-07-13
这条线程手把手演示了 LLM **token 采样**是怎么发生的： - 先把输入 embeddings 喂给模型，得到下一词的概率分布。 - 再把概率做成累计分布，相当于把 100 张“抽奖券”分给不同词。 - 每次随机抽一个数，落在哪个区间，就选中对应的词并填入空位。 - 通过三轮示例，最终生成了 “how are you”。 作者用“抽奖券”类比解释了为什么高概率词更容易被选中，但低概率词也仍然有机会出现。