Meta FAIR 发布 e-means:十分之一轮次超越 k-means,GPU 提速最高 45 倍
NielsRogge · x · 2026-11-12
Meta FAIR(作者包括 Hugo Touvron、Matthijs Douze、Hervé Jégou 等)发布论文《e-means: outperforming k-means (in one-tenth the epochs)》,对经典聚类算法 k-means 做出升级。
- 核心方法:在 mini-batch 更新上引入指数移动平均(EMA)优化流程,借用现代深度学习训练机制。
- 建立了衰减率与 batch size 的 scaling law,可按公式直接定参,无需超参搜索。
- 效果:在多类 embedding 数据集上,达到 Lloyd k-means 25 个 epoch 的损失只需 1.42.6 个 epoch,相对 SOTA k-means 实现取得 1045 倍 GPU 端到端加速,且常胜过 k-means++。
- 规模验证:将 100 亿条 DINO embeddings(DINO10B)切为 1600 万个簇仅用 2.5 个 epoch。
适用于数据分析、检索、量化与数据清洗等大规模聚类场景。
所属事件:Meta FAIR 开源 e-means 聚类算法,十分之一轮次超越 k-means(5 条相关)→
「Infra」频道最新
- PyTorch 原生上 TPU:TorchTPU 入门教程 — kuanhoong · 2026-11-12
- 美国数据中心总用水量仅相当于国民瓶装水消费量 — justin_hart · 2026-11-12
- 网友预言:黄仁勋将离开 Nvidia,被马斯克招入 Terafab 掌舵 — bennash · 2026-11-12
- NVIDIA 官宣 CEO 换帅,黄仁勋时代落幕 — lldb · 2026-11-12
- 高保密客户要本地化 LLM:16GB MacBook 跑 MCP Agent 不够用 — Icy_Bumblebee8159 · 2026-11-12
- Elastic 联合创始人出新作 Hornet:agent 时代检索是刚需 — jobergum · 2026-11-12