79% 企业 GPU 过半时间闲置,70% 却仍要采购新 AI 平台

机器之心 · wechat · 2026-10-24

VentureBeat Intelligence 三轮调研(385 家百人以上企业)显示,79% 的受访者称其 GPU 至少一半时间完全闲置(三个月稳定在 77%–81%),但其中 70% 仍计划未来 12 个月内引入或更换新 AI 平台;计划新采购的企业中 91% 拿不出经财务审核的 ROI 数据。

这种「一边闲置、一边加码」的错配源于两套账单:恐慌驱动的 GPU 囤积成了沉没资产,而业务实际依赖 OpenAI/Anthropic/Google 的闭源前沿模型 API,后者以 Token 计费快速吞噬预算(Uber 曾因「Token 狂欢」数月耗尽全年 AI 预算)。计划新采购的闲置企业中 90% 转向公有云与 API 服务,仅 8% 考虑扩建私有集群。Agent 普及将进一步放大成本:Gartner 预测 2028 年单个 Agent 工作流推理成本涨 5 倍以上;ValsAI 测试显示多子 Agent 方案成本达单 Agent 的 1.8–5.1 倍,但四种配置中仅一种有统计显著提升。

文章给出的自救路径:以「每项已完成任务的成本」而非 Token 单价做评价标准、缓存重复上下文(Claude Code 会话后续请求 85%–97% 上下文可缓存复用,读取价低至输入价的 1/40–1/10)、仅在任务可并行时增加 Agent、把高频常规任务迁移到闲置算力上的开放模型、利用闲置 GPU 跑批量推理与微调。

所属事件:调查称 79% 企业 GPU 过半时间闲置仍继续采购(2 条相关)→

原文链接 →

「公司和人」频道最新

更多「公司和人」频道 AI 资讯 →