质疑成本下降曲线:蒸馏小模型低价与价格地板的两难
davidmanheim · x · 2026-09-23
David Manheim 与 Toby Ord 讨论某张 LLM 能力/成本图表时提出质疑。
- 他认为该图错误地把能力提升与成本下降合并成一条纯成本曲线,得出的大结论站不住脚。
- 但蒸馏小模型确实以大幅更低的价格提供了略低的质量,这一现象又部分支持原结论。
- 另一个结构性问题是价格地板:如果仅服务 token 的 Web 基础设施就要约 $0.01/mtok,三四线模型的降价空间就失去意义,因为没人愿意伺候最便宜的档位——固定成本决定了价格无法无限下降。
所属事件:「AI 价格五年降 10 万倍」图表遭 Toby Ord 等人公开质疑(5 条相关)→
「Infra」频道最新
- Dreamscale 云端跑 NVIDIA DreamZero,速度反超官方 8% 硬件省一半 — chris_j_paxton · 2026-09-23
- Agent 让数据栈不再宽容:陈旧数据足以触发错误订单 — bigdata · 2026-09-23
- LLM 成本核算的隐形陷阱:token 口径不一致致用量低估 46 倍 — qaiser_mehdi · 2026-09-23
- Redis 推出 Radar 与 Search on Flex 等面向 Agent 的新能力 — antirez · 2026-09-23
- 24GB显存AMD卡跑视频模型:2分钟仅生成2秒480p — OneMoreName1 · 2026-09-23
- FT 曝光:字节跳动占 Nscale 2025 年近 75% 销售额,借挪威设施获取英伟达芯片 — nathanbenaich · 2026-09-23