花 4500 美元买 GPU 跑准前沿模型,网友吐槽「不能让人跑得太便宜」
marian_nmt · x · 2026-10-03
- mariannmt 发帖称两周前花了 4500 美元 买下自己的第三块 GPU,并自嘲:「总不能让大家跑准前沿模型跑得太便宜吧」,暗讽本地运行前沿模型所需的高昂硬件门槛。
「Infra」频道最新
- 骁龙 8 Elite Gen 6 发布:首款 5GHz 手机 CPU,端侧可跑 300 亿参数 MoE — DavidLinthicum · 2026-10-03
- DFlash2 投机解码提速 2.8 倍,Qwen3.8 三个本地版本实测横评 — FantasticNature7590 · 2026-10-03
- Cactus 发布 16.9MB 语音识别模型 Whistle,CPU 端侧运行胜 Whisper base — ycombinator · 2026-10-03
- Cohere 联手 vLLM 在多伦多做开源推理主题 meetup — cohere · 2026-10-03
- 传台积电评估德州建新厂,扩大 2650 亿美元美国布局 — Beth_Kindig · 2026-10-03
- 离散扩散新方法让 LLM 推理无损提速，可直接替换现有训练管线 — Cohere · 2026-10-03