e-means 论文妙招：IVF 索引加速聚类，10亿向量时省4.3倍算力
antoine_chaffin · x · 2026-11-10
Meta 研究者 antoinechaffin 分享其论文中的一个方法示例：index-accelerated approximate assignment（索引加速的近似分配）。当聚类质心数量扩展到数百万级时，训练向量与所有质心的精确距离计算成本过高，改用 IVF 索引（质心按 meta-centroid 分桶，查询向量只访问最近的少数桶）可将分配变成近似最近邻搜索。
配图数据（DINO10B 子集上达到 Lloyd 测试损失的 GPU 小时）：
- 1 亿向量、2^18 质心：无收益（0.028 vs 0.030）
- 10 亿、2^21 质心：便宜 4.3 倍（4.56 → 1.05）
- 100 亿、2^24 质心：便宜 34 倍（779 → 22.8），1670 万质心训练不到一个 GPU 日
作者还向 TACHIOM 提交了 PR，以 cpu + HNSW、非批量方式支持这一技术，作为 TAC 聚类的替代方案。
「Infra」频道最新
- Google 推出 TPU 8tx 与 8i Max,正面挑战 Nvidia AI 芯片霸主地位 — GrahamPhisher · 2026-11-10
- Transformer 通讯直指黄仁勋就与客户关系表态撒谎 — ShakeelHashim · 2026-11-10
- AWS 发布七层可插拔企业 Agent 参考架构，基于 Bedrock AgentCore — AWS ML Blog · 2026-11-10
- 黑客攻击 AI 基础设施商 Fireworks,客户数据与模型受影响 — annatonger · 2026-11-10
- 模型公司豪掷数十亿买涡轮机，能源正成 AI 竞争新护城河 — TansuYegen · 2026-11-10
- CrossnoKaye 用 Bedrock AgentCore 把 AI 智能体接入工业闭环控制 — AWS ML Blog · 2026-11-10