NVIDIA不会推消费级高显存GPU，推理加速器或成主流
mike64_t · x · 2026-08-08
作者认为NVIDIA永远不会推出侵蚀其数据中心利润的产品，如64GB GDDR7 RTX 5090（$1k）或DGX Spark。推理加速器虽牺牲训练能力，但AMD已效仿，未来将出现更多昂贵的推理加速器，导致GPU显存长期停留在16-32GB。作者警告这种权衡不应成为产品，否则会减少对GPU的需求。
「Infra」频道最新
- engy.ai 上线多款国产开源模型，API 价格大打价格战 — markjeffrey · 2026-08-08
- 单张 AMD R9700 跑 Qwen3.6 35B：vLLM 部署与 INT4 性能实测 — KriptacMessage · 2026-08-08
- 220 美元 ARM 设备实现 96.9% 无线电信号分类 — tom_doerr · 2026-08-08
- Inflect 推出免费 AI 爬虫索引,追踪各家大模型抓取行为 — Scobleizer · 2026-08-08
- 端侧 AI 硬件为何难产？小模型专用芯片落地阻碍探讨 — Waste-Intention-2806 · 2026-08-08
- 日本化学巨头垄断电子束核心材料，对华半导体形成关键卡脖子 — PAstynome · 2026-08-08