AI 推理成本已大幅下降
BlackHC · x · 2026-07-16
作者反驳“AI 是最糟技术”的说法，给出两个核心反证：
- 以 GPT-3.5 级性能计，推理成本从 2022 年 11 月的每百万 token 20 美元降到 2024 年 10 月的 0.07 美元，约下降 286 倍
- Epoch 的估计显示，在固定能力下，成本大约每 2 个月减半
他还指出，前沿模型参数规模并没有一直变大：
- GPT-4 时代曾到约 1.8T 参数
- 之后前沿模型反而变小了，例如 GPT-4o 和 Claude 3.5 Sonnet 的参数估计都更低
结论是，效率工作是真实发生的，而且被原文忽略了。
所属事件:BlackHC反驳“AI最糟技术”论(5 条相关)→
「Infra」频道最新
- Anthropic S-1:每 1 美元收入烧 48 美分算力成本 — nmasc_ · 2026-10-26
- Persistent AI 入驻 UR 网络，隐私推理流量全程加密 — 0xSammy · 2026-10-26
- Anthropic 算力承诺曝光：Google 至少 1145 亿美元居首 — BenBajarin · 2026-10-26
- SpaceX 与 Apollo 达成 400 亿美元 AI 芯片与数据中心硬件租赁协议 — Polymarket · 2026-10-26
- Diamandis 盘点：SpaceX AI 业务年增 830%，Claude 64 小时设计 31.8 万抗毒蛋白 — PeterDiamandis · 2026-10-26
- Meta 拟发售至多 950 亿美元股票为 AI 基建输血 — The Decoder · 2026-10-26