开源项目 LEANN 称向量库存储省 97%,6000万文本块 201GB 压到 6GB
Promptmethus · x · 2026-10-27
开源项目 LEANN(StarTrail-org)宣称可在几乎无精度损失的情况下,把向量数据库存储缩小 97%:6000 万条文本块从 201 GB 压缩到仅 6 GB,全程本地运行,不需要 GPU 或云基础设施。
- 定位:在个人设备上跑快速、准确、100% 私密的 RAG 应用
- 数据:GitHub 13.3k star / 1.2k fork,MIT 协议
- 论文已入选 MLSys 2026 最佳论文(arXiv:2506.08276)
意味着过去需要昂贵服务器承担的检索负载,现在一台笔记本就能跑。
「Infra」频道最新
- GPU 能用 6 年，模型 6 个月就过时：算力比权重更保值 — bindureddy · 2026-10-27
- Block 发布本地语音模型 Dessa：单机架 GPU 训练，能还原笑声与哭声 — technextpreneur · 2026-10-27
- 整柜 GPU 运上太空？网友质疑 NVLink 能否扛住发射震动 — jwt0625 · 2026-10-27
- Surface Laptop Ultra 评测：本地 AI 表现亮眼但带宽受限 — draginol · 2026-10-27
- Chamath:违约赔偿条款将是 neocloud 算力合同决战点 — BrentM_BuildGuy · 2026-10-27
- AI 需求激增，云算力供不应求催生容量预订新玩法 — DavidLinthicum · 2026-10-27