Weaviate 1.39 推出 4-bit 旋转量化,大幅降内存且召回几乎无损
CShorten30 · x · 2026-09-18
向量数据库 Weaviate 发布 1.39 版本,新增 4-bit Rotational Quantization(RQ),在大幅降低向量内存占用的同时保持较高召回率。
- 配合新 SIMD 内核与改进的预取策略,导入与搜索性能均有明显提升
- 博客详细介绍了 SIMD 实现细节、数据集扩大时召回率的表现,以及与 TurboQuant 的对比
- 8-bit RQ 仍是 Weaviate Cloud 默认选项,现在导入速度提升 16%
如果优先考虑降低 RAM 用量与成本,4-bit RQ 已可用。
所属事件:Weaviate 1.39 引入 4-bit 旋转量化，堆内存再省近半(2 条相关)→
「Infra」频道最新
- Google 开源 Agent Substrate:单机塞千个休眠 Agent,恢复仅 500ms — blaizedsouza · 2026-09-18
- Reddit 网友把 6 张 V100 塞进普通全塔机箱搭本地推理服务器 — Odd_Caterpillar_2994 · 2026-09-18
- Crusoe 融资 39 亿美元建 AI 数据中心，估值达 309 亿 — TechCrunch AI · 2026-09-18
- GPU 编程打卡第 257 天：推荐 2.5 小时半导体供应链入门课 — blaizedsouza · 2026-09-18
- YC F26项目Dreamscale：把机器人推理搬上云端 — ycombinator · 2026-09-18
- 社区为 Bonsai 2 27B 微调 MTP 头，推理提速约 1.25 倍 — cephaloform · 2026-09-18