Meta FAIR 提出聚类新法 e-means,速度较 k-means 提升 10-45 倍

meta · hf · 2026-11-11

Meta FAIR 团队发布 e-means 聚类算法,用指数移动平均(EMA)优化替代 Lloyd 经典迭代,基于 mini-batch 更新并借助现代深度学习框架实现。

论文还建立了衰减率与 batch size 对最终性能影响的 scaling laws,可直接按公式定参,无需超参搜索。在多种 embedding 数据集上,e-means 只需 1.42.6 个 epoch 就达到 Lloyd k-means 25 个 epoch 的损失水平,相对 SOTA k-means 实现带来 10-45 倍 GPU 实际加速,常优于 k-means++。示例:将 100 亿 DINO embeddings(DINO10B)切分为 1600 万个 cluster 仅用 2.5 个 epoch。代码已并入 FAISS 库。