用数学算给你看:记录 LLM 全部输入输出映射的书超宇宙原子数

joshalbrecht · x · 2026-10-03

作者做了一个趣味思想实验:假设词表 1 万 token、上下文窗口 10 万 token、随机种子有 10^16 种,用 8 号字、无页边距的 8x11 纸打印一个 LLM 的全部输入输出映射,这本书的原子数会比可观测宇宙多约 10^399,961 倍。

有趣的是,这个天文数字几乎全部来自「输入」侧的页面——由于生成机制的约束,输出是高度受限的。作者借此表达一个观点:LLM 的一切有趣之处,本质上都来自我们自己的输入与解读。