Hillock 开源：用 SQLite + 万维超向量门控取代向量库，1.2GB 显存内跑本地 RAG

Equivalent-Flan-1590 · reddit · 2026-10-03

作者开源了 Hillock（v0.8），目标是在本地 RAG 中彻底去掉向量数据库：

• 痛点：Chroma 等向量库挤占主模型显存；余弦相似度难挡 hard negative，导致模型对不在文档里的问题自信幻觉
• 做法：用轻量双编码器在约 5 秒内把文档抽取成关系事实存入 SQLite，摄入阶段完全绕过生成式 LLM
• 防幻觉门控：查询先过 10000 维超向量 late-interaction 打分门，若事实图谱与问题无数学重叠，则在生成 token 前直接拦截 LLM 调用
• v0.8 优化：超向量位打包为 157 个 uint64，借 CPU popcount 指令把门控检查压到 0.01ms 以内；提供 OpenAI 兼容 API，可直接接入 Open WebUI、AnythingLLM、Obsidian，已上 PyPI（pip install hillock）
• 取舍：面向结构化关系事实（规格、人物、日期），重精度轻召回，做不了宽泛的叙事摘要

原文链接 →

「编程与Agent」频道最新

• Jev 开源:让 PowerShell 用 AI 提问返回结构化真假决策 — dfinke · 2026-10-03
• 视频解析 Jev 智能体三大用法：游戏、分诊与浏览器操作 — RelevantEmergency707 · 2026-10-03
• 用 Claude 做音乐视频实测:作者建议自传音轨而非让浏览器控 Suno — technollama · 2026-10-03
• 新职业「AI 看护员」爆火:全职让 agent 队列永不空转 — petesena · 2026-10-03
• Antigravity CLI 1.2.15 登陆安卓：手机 Termux 里跑完整编程 Agent — kalyan_kpl · 2026-10-03
• OpenAI DevDay：Dot 智能体配专属云电脑与浏览器,由 GPT-6 Astra 驱动 — dl_weekly · 2026-10-03

更多「编程与Agent」频道 AI 资讯 →