本地 RAG 怎么塞进小机器
According-Floor5177 · reddit · 2026-07-20
作者在问：**受限硬件上怎么跑本地 RAG 的向量库**。 他提到 Weaviate 的 HNSW 索引会大量占用内存，官方文档里显示在 768 维、100 万向量时大约要 6GB RAM；如果机器总共只有 8GB，模型还没加载空间就几乎被吃光了。 他想了解几件事： - 大家在用什么向量库 - 大概多少向量后内存就开始吃紧 - 有没有人在线上用磁盘型索引，还是通常靠量化解决 - 本地场景下 768 维是否值得，还是降到更小的 embedding 更划算
「编程与Agent」频道最新
- 有人开始用 Claude Code 自建小应用替代现成工具 — alexmacgregor__ · 2026-07-21
- 有人把 AI 使用方式指向异步长周期实验而非单买算力 — voooooogel · 2026-07-21
- 有人主张给模型独立 micro VM，少用 tool calling — joecole · 2026-07-21
- Kimi 借助 SSH agent 和 VM API 直接发站 — davidcrawshaw · 2026-07-21
- Hidden Bar 用一句 Homebrew 命令收纳 Mac 菜单栏图标 — vista8 · 2026-07-21
- Stripe 接入者在比拼：agent 还能管退款、优惠券和支付方式 — jeff_weinstein · 2026-07-21