AI 推理成本已大幅下降
BlackHC · x · 2026-07-16
作者反驳“AI 是最糟技术”的说法，给出两个核心反证：
- 以 GPT-3.5 级性能计，推理成本从 2022 年 11 月的每百万 token 20 美元降到 2024 年 10 月的 0.07 美元，约下降 286 倍
- Epoch 的估计显示，在固定能力下，成本大约每 2 个月减半
他还指出，前沿模型参数规模并没有一直变大：
- GPT-4 时代曾到约 1.8T 参数
- 之后前沿模型反而变小了，例如 GPT-4o 和 Claude 3.5 Sonnet 的参数估计都更低
结论是，效率工作是真实发生的，而且被原文忽略了。
所属事件:BlackHC反驳“AI最糟技术”论(5 条相关)→
「Infra」频道最新
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11
- 7900 XTX 24GB 能否跑 Qwen，Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11