云上跑 AI 成本可达本地部署 10-20 倍,专家提醒按用途选架构
DavidLinthicum · x · 2026-09-17
云计算专家 David Linthicum 指出,许多公司在云 AI 基础设施上严重超支,花费可达本地部署方案的 10-20 倍。他认为这重演了早期企业上云时的错误,建议按实际用途选择架构,而非默认全上云。
「Infra」频道最新
- Cohere 用单个 CUDA megakernel 服务 30B 模型,batch 1 达 292 tokens/秒 — dl_weekly · 2026-09-17
- dotAI 演讲：llama.cpp 投机解码的 MTP、dflash 与 dspark 实践 — ngxson · 2026-09-17
- M5 Ultra 首批基准曝光：跑 Qwen3 27B q4 达 50 tok/s — Ashefromapex · 2026-09-17
- 6 个团队共用 API 账单没人说得清,一家公司拆解 LLM 成本管控方案 — Fit_Program7076 · 2026-09-17
- 开源 GPU profiler Graphsignal:让 AI agent 自己读性能数据调优 vLLM — l0g1cs · 2026-09-17
- 去中心化推理网络如何抓作弊主机:抽查+声誉+开源权重三重校验 — autoimago · 2026-09-17