Johnson-Lindenstrauss 引理:随机投影可低失真降维做 k-means
FrnkNlsn · x · 2026-11-22
作者 FrnkNlsn 分享 Johnson-Lindenstrauss 引理及其降维应用(配教学图卡):
- 定理内容:可将 R^d 中任意 n 个点嵌入到 k=O((1/ε²)·log n) 维空间,且所有点对距离失真控制在 (1±ε) 以内。
- 构造方式:随机投影矩阵 A 的系数取标准正态分布(可用 Box-Muller 变换从均匀分布生成),再按 k/d 缩放;还有稀疏矩阵等扩展。
- 实际意义:高维数据(如 embedding)可先降到 O(log n) 维再做 k-means 等聚类,大幅降低计算成本而几乎不损失结构。
「研究」频道最新
- ISO:固定谱优化栈让375B MoE专家合并仅需数分钟 — zdhnarsil · 2026-11-22
- 网友实验让 Krea2 跳过 VAE Decode 直接输出像素,单张 3090 过夜训练 — Remote_Net374 · 2026-11-22
- 『超级 AI 在 2026 证明黎曼猜想』刷屏,反衬黎曼 20 瓦大脑的传奇 — doodlestein · 2026-11-22
- 黎曼猜想被解之后,《科学美国人》旧封面预言「数学的终结」 — EricTopol · 2026-11-22
- 『别用某模型输出训练』无法执行:公开网络让数据禁令形同虚设 — anpaure · 2026-11-22
- 研究者回应"AI 解出黎曼假设无价值论":数学先行是对的 — JJitsev · 2026-11-22