略低于前沿的便宜模型,给分布式推理留出空间
Ronangmi · x · 2026-07-22
截图里,Kavin Ethayarajh 认为原帖的判断不够准确:市场上其实存在大量对 略低于前沿水平模型 的需求,很多场景里用户更在意的是 每百万 token 的成本,而不是绝对最强能力。
他进一步指出,前沿模型厂商可能只会保留少数高毛利型号,老模型也会很快被淘汰;这意味着在更便宜、稍弱一些的模型区间里,仍然有很大的未被充分开发的空间,也给分布式网络去承载这些模型留下了机会。
「Infra」频道最新
- AI 正把开发者推向整层技术栈重写 — mobileraj · 2026-07-22
- 企业 AI 账单上涨,往往是上下文层在烧 token — rohanpaul_ai · 2026-07-22
- 英国数据中心扩张撞上供水争议,关键基础设施地位成焦点 — Sure_Ad_9884 · 2026-07-22
- NVIDIA Rubin 引入 tile 级依赖触发提升 kernel 重叠 — Moh1tAgarwal · 2026-07-22
- 广告牌称某公司 9 个月可交付 AI 数据中心 — BenBajarin · 2026-07-22
- 印度芯片工厂仍高度依赖进口超纯化学品 — santoshpanda · 2026-07-22