79% 企业 GPU 过半时间闲置,70% 却仍要采购新 AI 平台
机器之心 · wechat · 2026-10-24
VentureBeat Intelligence 三轮调研(385 家百人以上企业)显示,79% 的受访者称其 GPU 至少一半时间完全闲置(三个月稳定在 77%–81%),但其中 70% 仍计划未来 12 个月内引入或更换新 AI 平台;计划新采购的企业中 91% 拿不出经财务审核的 ROI 数据。
这种「一边闲置、一边加码」的错配源于两套账单:恐慌驱动的 GPU 囤积成了沉没资产,而业务实际依赖 OpenAI/Anthropic/Google 的闭源前沿模型 API,后者以 Token 计费快速吞噬预算(Uber 曾因「Token 狂欢」数月耗尽全年 AI 预算)。计划新采购的闲置企业中 90% 转向公有云与 API 服务,仅 8% 考虑扩建私有集群。Agent 普及将进一步放大成本:Gartner 预测 2028 年单个 Agent 工作流推理成本涨 5 倍以上;ValsAI 测试显示多子 Agent 方案成本达单 Agent 的 1.8–5.1 倍,但四种配置中仅一种有统计显著提升。
文章给出的自救路径:以「每项已完成任务的成本」而非 Token 单价做评价标准、缓存重复上下文(Claude Code 会话后续请求 85%–97% 上下文可缓存复用,读取价低至输入价的 1/40–1/10)、仅在任务可并行时增加 Agent、把高频常规任务迁移到闲置算力上的开放模型、利用闲置 GPU 跑批量推理与微调。
所属事件:调查称 79% 企业 GPU 过半时间闲置仍继续采购(2 条相关)→
「公司和人」频道最新
- SaaStr 创始人:AI Agent 正在取代人类成为软件买家 — morganb · 2026-10-25
- NVIDIA Isaac 机器人平台曝光:覆盖芯片到 OS 的全栈布局 — ___Mufasaa · 2026-10-25
- 前 OpenAI 工程师涉窃密献给沙特,FBI 调查经济间谍罪 — Polymarket · 2026-10-25
- Anthropic 公开产品团队点名名单,用户可直接 @ 反馈 — alexalbert__ · 2026-10-25
- AI 大 V 自曝:厂商开价求发软文且要求隐藏付费标签 — prasenx · 2026-10-25
- rauchg 上新节目谈 agent:「它能替你探索世界」 — soleio · 2026-10-25