GPU 涨价殃及 1080ti,本地模型推理速度实测清单流出
HankYeomans · x · 2026-09-19
帖主抱怨 GPU 涨价潮连老卡都不放过,连「古董」GTX 1080ti 二手价也眼看要涨。引文中附了一组编码推理速度实测:Gemma4 E4B 约 200 tok/s,Gemma4 12B 约 135 tok/s,而 Bonsai 2 仅 25 tok/s(用自定义 Pascal 内核,配合 drafter 可到 70-100+ tok/s)。发帖人调侃大家很快要「抢救修复」古老的 3dfx Voodoo 显卡了,反映本地推理玩家在涨价周期下的焦虑。
「Infra」频道最新
- Luminal 用 AMD MI300X 跑 FLUX.2,靠便宜算力压低单图成本 — ycombinator · 2026-09-19
- Google Cloud Spanner 新增原生队列:数据库内实现事务性异步消息 — rseroter · 2026-09-19
- AI Infra 峰会访谈：Penguin 与 Astera Labs 押注 CXL 内存扩展方案 — BenBajarin · 2026-09-19
- Jev 可替代本地模型做低延迟应用,开源 RLCD 版本可期 — HankYeomans · 2026-09-19
- Arduino Ventuno Q 实测：Hexagon NPU 跑端侧 VLM 推理 — HowDevelop · 2026-09-19
- Bonsai 2 27B 量化版实测:7GB 内存跑出远超同级 3D 生成质量 — Fun-Meaning-6474 · 2026-09-19