10 人小办公室求本地 RAG 方案：预算五六千美元，GB10 还是最优解吗
be_evil · reddit · 2026-09-14
一家约 10 人的土木行业公司已在 Windows AD 环境下用 Open WebUI 接入前沿模型，现在想加本地硬件后端跑 RAG：约 500 份行业标准类 PDF 待转 Markdown，主要用于合同起草与报价生成，预算 5-6 千美元。发帖人询问半年前调研时的 GB10 Blackwell 主机现在是否仍是最佳选择。
「Infra」频道最新
- SemiAnalysis:4-hi HBM 同带宽更省成本, Rubin Ultra 降为 8-hi 192GB — maksym_andr · 2026-09-15
- 算力会遵守条约吗?Attestable 提出训练停止的可验证层 — ml_hardware · 2026-09-15
- OpenRouter 联合 Arcee、微软等推 Forge，加速开源模型逼近前沿 — inkko44 · 2026-09-15
- Polymarket 开设「AI 泡沫破裂」盘口,预测 2026 年底前概率 13% — Polymarket · 2026-09-14
- François Fleuret 实测:按官方文档写 prompt,16GB 4060Ti 本地跑 MiniMax 表现出色 — francoisfleuret · 2026-09-14
- 电力缺口即智能缺口:欧洲 AI 落后的能源短板 — NinaDSchick · 2026-09-14