浪潮押注Agent基础设施
量子位 · wechat · 2026-07-13
这篇文章的核心观点是：AI 基础设施的重心，正在从“支撑大模型推理”转向“支撑海量 Agent 规模化运行”和“持续产出高质量 Token”。 ### 背景判断 - IDC 预计，2025 年中国 AI Agent 企业级市场规模约 **190 亿元**，2025-2028 年复合增长率超过 **110%**。 - Gartner 认为，**2026 年 40% 的企业应用集成任务型 AI Agent**。 - 这意味着基础设施不再只服务一次性输入输出，而要支撑任务拆解、工具调用、多轮协作和长期在线。 ### 浪潮信息发布的方案 - 推出 **业界首款 CPU 原生液冷整机柜服务器**。 - 单柜最大可支持 **384 颗**基于 OCM 架构的 CPU，兼容 x86 和 ARM，可支撑 **4 万+ Agent** 协同运行。 - 采用“原生液冷”思路，把计算和散热协同设计，连内存、网卡、光模块、SSD 等发热部件也纳入液冷体系。 - 通过 2U 超薄节点、主板平铺布局和整机柜无线缆设计，提升了空间利用和运维效率，号称运维效率提升 **100%+**。 ### 多模型协同 - 在元脑企智 EPAI 平台上线 **多模融合 API**，并发布 **元脑 SD200 超节点 AI 服务器企业版**。 - 多模融合会让多个候选模型同时回答，再由评审融合模型综合共识、分歧和遗漏。 - 在 DRACO 测试中做到 **53.9%**，高于候选池中任一单模型。 - SD200 的 token 生成时间从去年的 **8.9ms** 降到 **4.77ms**，首 Token 延迟下降 **35%**。 ### 文章结论 作者认为，Agent 时代的基础设施竞争，已经从“单点模型支持能力”转向“CPU、GPU 和软件平台的系统级协同能力”。