创业者预判:绝大多数推理将转向变动定价或异步,固定价会极贵
evanjconrad · x · 2026-10-18
evanjconrad 发推预判推理服务定价的走向:几乎所有推理最终都会迁移到变动定价(variable pricing)或异步(async)两种模式,只有一小部分保留固定价格,而那部分会非常昂贵。
随后的讨论中,JoshPurtell 与 lukedavis 指出这会让应用侧更难控制成本:开发需要保证端到端延迟、又面临 API 成本波动的应用本来就很难,即便没有严格的延迟约束,在成本与效果之间做平衡也不容易;lukedavis 则认为人机交互部分的应用会越来越不重要,大部分推理将变成海量、难以追踪的异步任务。
「Infra」频道最新
- SpaceX 拟接入 8 万座美国基站，博彩市场给了 29% 成运营商概率 — Polymarket · 2026-10-23
- Modular 宣布 MAX 框架开源：AI 计算不应被单一芯片厂商锁定 — clattner_llvm · 2026-10-23
- Modular 开放 MAX 源码，要做「AI 界的 LLVM」打破芯片锁定 — clattner_llvm · 2026-10-23
- Claude 模型登陆 Google Cloud:Anthropic 托管版正式可用 — claudeai · 2026-10-23
- GLM-5.3-Flash 实现 1M token 上下文训练，较基线提升 64 倍 — AndrewLBeam · 2026-10-23
- Perplexity 联手 AMD 推便携 AI 主机，本地跑 27B 模型做实时研究 — AravSrinivas · 2026-10-23