Reddit 调查：本地推理用啥 GPU？3090/4090 仍是主流
ocean_protocol · reddit · 2026-07-30
Reddit 用户发起调查，询问大家实际用于本地推理的 GPU 型号。多数回复仍以 3090/4090 为主，用于运行 Llama 3 8B、Mistral 7B 等模型；少数人使用 A100/H100（二手价格下降）。对于更大模型（如 Llama 3 70B），有人采用多卡或量化 GGUF 单卡运行。
「Infra」频道最新
- 英伟达实现百万级矩阵分解，单卡显存容量翻倍 — marc_stampfli · 2026-07-30
- 放弃 NVIDIA？双路 AMD R9700 搭建本地 AI 算力实测探讨 — Syosse-CH · 2026-07-30
- 16GB内存即可本地跑Gemma 4：零成本完全离线配置教程 — FinanceYF5 · 2026-07-30
- 4090+5060 Ti 混合推理实测：122B 模型跑出 37 t/s — Dry_Long3157 · 2026-07-30
- OpenAI 拟吞全球 40% 内存产能，算力正重塑硬件所有权 — Shimano-No-Kyoken · 2026-07-30
- AI 巨头被指隐瞒 1.65 万亿美元表外债务，堪比安然财务丑闻 — marigo · 2026-07-30