推理费用破 10 万美元:多智能体集群推理开销或超部分中国模型整个预训练
1a3orn · x · 2026-10-06
AI 观察者 1a3orn 表示其推理支出已远超 10 万美元,并提出一个新的行业坐标:问题可能不再是「何时出现首个十亿美元训练运行」,而是「何时出现首个 10 万美元推理运行」——OpenAI 可能很快会进行某些运行成本超过一些中国 LLM 整个预训练费用的多智能体集群推理。
「Infra」频道最新
- 把昂贵大模型当算命用太浪费:微型决策模型 Jev 千篇论文仅花 $0.08 — TinfoilTricorn · 2026-10-06
- 上一轮加息周期风投融资暴跌 66%,AI 实验室约 25% ARR 或受波及 — menhguin · 2026-10-06
- 实测称 TensorRT 推理比 llama.cpp 快 206% — kalyan_kpl · 2026-10-06
- 一致性哈希图解：为何取模分配会在扩缩容时几乎全量重映射 — _jaydeepkarale · 2026-10-06
- CME 推算力期货，BlackRock 称"算力期货是全新资产类别" — Saul_Loveman · 2026-10-06
- 澳洲开源决策模型 Matilda Jev：单卡推理仅 56.8ms，不做文本生成 — Med1_Ai · 2026-10-06