高维高斯样本集中在半径√d的薄壳上
CatAstro_Piyush · x · 2026-07-22
高维高斯分布里,“密度最大”和“样本最常出现”会彻底分离。
- 对一个 \(d\) 维标准高斯来说,概率质量主要集中在半径约为 \(\sqrt{d}\) 的薄壳上,而不是原点附近。
- 因此,虽然分布的 mode(峰值点)密度最高,但你实际抽到的样本几乎都会落在那层薄壳上。
- 这条帖子的作者说自己已经被这个反直觉结论第 n 次“绊倒”,于是做了可视化来纪念。
「研究」频道最新
- Gemma 翻译测试暴露指令与载荷边界失效 — ReinforcedKnowledge · 2026-07-22
- 新预印本用“可学习新颖性”统一智能概念 — drmichaellevin · 2026-07-22
- DSPy+RLM 智能体可跑在 Qwen-4B 上,长上下文外置处理 — dosco · 2026-07-22
- 真人照片转 3D 手办为何总丢失脸部身份感 — LoudPoem9492 · 2026-07-22
- AutoIndex 认为表示法才是符号优化的关键 — mrdrozdov · 2026-07-22
- 有线程认为,持续学习更该优化上下文里的信息装载 — JoshPurtell · 2026-07-22