Meta FAIR 提出 e-means:1/10 轮次超越 k-means,GPU 提速最高 45 倍
burny_tech · x · 2026-11-10
Meta FAIR(作者含 Hugo Touvron、Hervé Jégou、Matthijs Douze 等)发布论文《e-means: outperforming k-means (in one-tenth the epochs)》,用深度学习思路改造经典聚类算法。
方法:将 k-means 的质心更新改为基于 mini-batch 的指数滑动平均(EMA)优化,借助现代深度学习框架实现;并建立了衰减率与 batch size 对最终性能影响的 scaling law,可直接按公式设定超参,无需网格搜索。
结果:
- 在多种 embedding 数据集上,1.42.6 个 epoch 即可达到 Lloyd k-means 25 epoch 的损失,GPU 实际耗时加速 1045 倍,常胜过 k-means++ 初始化
- 极端案例:把 100 亿条 DINO 向量(DINO10B)切成 1600 万个簇,仅用 2.5 个 epoch 损失就低于 Lloyd 25 epoch
- 在 H100 上 10 亿级数据测试中,比 Faiss-GPU、Flash-KMeans 等最先进实现节省约 10 倍算力;配合 IVF 还能进一步加速
聚类广泛用于检索、量化与训练数据筛选,对 LLM 数据管线有直接价值。代码开源于 FAISS 库。
所属事件:Meta FAIR 推出 e-means 聚类算法,GPU 提速最高 45 倍(3 条相关)→
「Infra」频道最新
- simdjson实测:龙芯3A6000的256位LASX反而比128位LSX慢6.7% — lemire · 2026-11-10
- Vera 发布:云基础设施运维的模拟器、基准与训练型 agent — tianyin_xu · 2026-11-10
- NVIDIA 等论文定位「入侵头」:屏蔽约 10 个注意力头挽回 57% 精度 — rohanpaul_ai · 2026-11-10
- 内存涨价开始反噬需求:PC BOM 占比升至 35-38%,出货骤降 — tengyanAI · 2026-11-10
- 两名工程师月烧 50 万美元 API,年化支出高达 600 万美元 — bingxu_ · 2026-11-10
- Flide 推理引擎:决策模型 agent 提速 9.5 倍且保持精确 — NationalUniversityofSingapore · 2026-11-10