前 Oracle 员工算账 AI 基建:机架折旧仅 5-6 年,Vera Rubin 单架超 800 万美元
SumitGup · x · 2026-10-21
AlphaSense 曝出一份前 Oracle 员工的专家访谈纪要,核心观点是「需求是 AI 基建故事唯一的支点」:
- 成本结构:1GW 数据中心建设中,基础设施约占总成本 40-50%,其中 GPU 占机架基础设施支出的约 70%;因组件密度与价格上涨,最新 NVIDIA Vera Rubin 机架单价已远超 800 万美元。
- 折旧年限:机架基础设施会计折旧通常 5-6 年(微软取上限、AWS 约 5 年),建筑 20-30 年、网络设备 10-15 年。但经济寿命可显著超过会计年限——CoreWeave 等 neocloud 正对 A100/H100 等旧卡续签 4-6 年长约,靠需求持续、供给滞后和 NVIDIA/AMD 的软件升级支持延续旧 GPU 变现能力。
- 规模经济:100MW 与 5GW 设施中,电力/制冷/网络是固定成本,平台层才有规模效应;但中小型 on-prem 部署(零售、银行等)不会消失,关键在利用率——建了不用就输。
- 自研芯片:值不值取决于用量×成本差×性能 TCO;自研省掉 NVIDIA/TSMC 的双重加价层,OpenAI Jalapeno、AWS 等靠系统级软硬协同优化获得收益,但 neocloud 很难承担这种前期投入。
「Infra」频道最新
- 机器人推理平台上线 Deployments:可云端部署 HF 微调模型 — arnie_hacker · 2026-10-21
- 路透:字节阿里腾讯下单超300万块英伟达RTX PRO 5500,总价超350亿美元 — SumitGup · 2026-10-21
- TorchTPU 实测演示:vLLM 与 SGLang 统一后端跑 TPU 服务 — Rob_Mulla · 2026-10-21
- Google 联合 Red Hat 发布 llm-d 1.0,K8s 原生分布式推理栈 — rseroter · 2026-10-21
- acs infra 上线免费 base model API,开放 Llama 3.1 8B/405B 供研究者使用 — amplifiedamp · 2026-10-21
- 开发者用 incus 容器给每个 Agent 独立工作区,解决 Mac 负载瓶颈 — kevinkern · 2026-10-21