Hillock 开源:用 SQLite + 万维超向量门控取代向量库,1.2GB 显存内跑本地 RAG
Equivalent-Flan-1590 · reddit · 2026-10-03
作者开源了 Hillock(v0.8),目标是在本地 RAG 中彻底去掉向量数据库:
- 痛点:Chroma 等向量库挤占主模型显存;余弦相似度难挡 hard negative,导致模型对不在文档里的问题自信幻觉
- 做法:用轻量双编码器在约 5 秒内把文档抽取成关系事实存入 SQLite,摄入阶段完全绕过生成式 LLM
- 防幻觉门控:查询先过 10000 维超向量 late-interaction 打分门,若事实图谱与问题无数学重叠,则在生成 token 前直接拦截 LLM 调用
- v0.8 优化:超向量位打包为 157 个 uint64,借 CPU popcount 指令把门控检查压到 0.01ms 以内;提供 OpenAI 兼容 API,可直接接入 Open WebUI、AnythingLLM、Obsidian,已上 PyPI(pip install hillock)
- 取舍:面向结构化关系事实(规格、人物、日期),重精度轻召回,做不了宽泛的叙事摘要
「编程与Agent」频道最新
- FT:赶工修复 AI 找出的 bug,导致美国科技公司频繁宕机 — nordicinst · 2026-11-19
- ANT 上市前夜数据:Claude Code 一年反超 Cursor 和 Copilot — antgoldbloom · 2026-11-19
- 开发者向 GKE 沙箱项目提 PR:定期 checkpoint 防 agent 进度丢失 — yoimnotkesku · 2026-11-19
- AWS AgentCore Identity 支持私有 CA,Agent 可直连内网自建 IdP — AWS ML Blog · 2026-11-19
- Orchestrator Cloud Agents 结束测试正式上线 — julianweisser · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19