本地跑 paperless-ai 文档管理,12GB 显存够不够用?
pjdonovan · reddit · 2026-09-06
一位 Reddit 用户咨询本地 AI 的最低门槛:唯一用途是文档管理,想用 paperless-ai 对文档提问,顺带希望兼容 Home Assistant。
他纠结的点是:市面性价比高的 GPU 多在 8-12GB 显存区间,是否 12GB 卡跑 6-10GB 模型就能获得不错体验,还是必须上 32GB。这是本地部署选卡的典型预算问题。
「Infra」频道最新
- AMD 高管：2030 年每月将处理 120 千万亿 AI token — zephyr_z9 · 2026-09-06
- 8GB 显存跑 MiniMax-H3 口型同步:多镜头渲染 26 分钟教程 — big-boss_97 · 2026-09-06
- Oura S-1 揭示端侧 AI 策略：小模型加边缘计算避开云推理成本坑 — eurie_kim · 2026-09-06
- Bosgame M5 Max 10 月发布:AMD 495 平台最高 192GB 内存 — Terminator857 · 2026-09-06
- 本地跑 Agent 级 LLM 实战：白嫖 GitHub Runner 编译 llama.cpp，Qwen3.8 27B 量化组合差 30 倍 — apollo_mg · 2026-09-06
- Cloud in a Bottle 发布:让自托管服务器人人可用 — zplizzi · 2026-09-06