一次大规模推理跑每秒烧 1050 美元,作者直呼心疼
Sauers_ · x · 2026-09-17
作者 Sauers 分享了自己一次大规模推理运行的成本:Fable 告知其成本高达每秒约 1050 美元,作者以「😭」表达心痛。展示了前沿模型大规模推理成本的惊人数字。
所属事件:开发者晒账单:一次大规模推理每秒烧 1050 美元(2 条相关)→
「Infra」频道最新
- DDRop 攻击借 DDR5 丢写击穿 Intel TDX 机密虚拟机 — matthew_d_green · 2026-09-17
- PufferLib 5.0 发布:单 GPU 跑出 6000 万步/秒强化学习训练 — jsuarez · 2026-09-17
- Crusoe 与 Perplexity 达成多年期云协议,扩大 AI 芯片租赁业务 — inductionheads · 2026-09-17
- SGLang 提出增量路由回放,攻克 Kimi K2 RL 训练同步瓶颈 — hsu_byron · 2026-09-17
- SemiAnalysis 实测 Rubin NVL72 每瓦性能达 GB300 的 7 倍,远超黄仁勋宣称 — inductionheads · 2026-09-17
- Cloudflare 上线首个隐身模型 Union Alpha,并行调用多模型融合答案 — ritakozlov · 2026-09-17