开发者抱怨推理服务商不足，Perplexity decider 模型一债难求
bo_wangbo · x · 2026-11-16
转发内容称：多家生产环境客户都在要求使用 Perplexity 的 decider 模型，但推理服务商托管不足，供不应求；发帖人评价该模型在其评测中表现相当出色。反映了小厂商模型的推理托管供给缺口。
「Infra」频道最新
- 企业 AI 不能只算 token 单价：推理经济学须从第一天纳入架构 — kashifmanzoor · 2026-11-16
- llama.cpp 新内核让 AVX-VNNI 上 Q2_0 预填充提速约 1.3 倍 — pmttyji · 2026-11-16
- 印度工程师自研多智能体运行时 Pony 求职，附 RPC、日志系统全套源码 — sharpeye_wnl · 2026-11-16
- NYT 长文曝黄仁勋隐秘关系风波，最终导致其辞去 Nvidia CEO — GaryMarcus · 2026-11-16
- Bindu Reddy：英伟达 80% 毛利难持续，注资 Neocloud 是自托需求 — bindureddy · 2026-11-15
- 曝黄仁勋亲自物色继任者,已致电至少一位候选人 — Polymarket · 2026-11-15