从业者:LLM 推理价格奔零,GPU 价格却奔 infinity
jon_durbin · x · 2026-10-12
Engy 开发者 jondurbin 谈 LLM 推理生意的矛盾:推理价格是「归零竞赛」,GPU 价格却显然是「奔向无穷的竞赛」。其项目 Parallax 试图弥合这一差距,但随着成本端压力上升,团队正减少 token 冲量(tokenmaxxing),转向按小时出租 GPU 等更可持续的收入方式。
所属事件:LLM 推理价格趋零而 GPU 租金大涨(3 条相关)→
「Infra」频道最新
- Meta 与 BlackRock 合建 1GW 数据中心,投资约 140 亿美元 — kimmonismus · 2026-10-13
- SubQ 主打数百万 token 推理:稀疏注意力声称比前沿模型省 128 倍算力 — ryanallred · 2026-10-13
- OpenCode 2.0 可跑在 Cloudflare Durable Objects,官方给出集成方案 — ritakozlov · 2026-10-13
- MiniCPM-V 4.7 发布: 首个 iPhone 上 13 token/s 的开源端侧 MoE — Skyline34rGt · 2026-10-13
- Cloudflare Workers 更新宽限期从 30 秒延长至 20 分钟,适配长时 AI 推理 — irvinebroque · 2026-10-13
- 马斯克谈制造规模化:中国潜力超全球总和,HBM 仍是难点 — elonmusk · 2026-10-13