ZML 推出免费推理服务器,覆盖 Nvidia、AMD、TPU 等多种芯片

emmanuelvivier · x · 2026-07-29

法国创业公司 ZML 发布了免费的推理服务器 ZML/LLMD,可以让多种开源大模型在不同芯片上运行并提速,包括 Nvidia、AMD、Google TPU、Apple Metal 和 Intel Arc。

公司希望打破芯片和软件栈之间的“烟囱”,让推理阶段尽量在各种硬件上都能跑到峰值性能,甚至在某些场景下更快,从而缓解推理层面的厂商锁定。创始人 Steeve Morin 认为,随着 AI 更深入工作与日常生活,推理的重要性正在超过训练,但这部分仍被软件和架构割裂拖累。

同一条线程还提到 SambaNova 传出 10 亿美元 Series F、110 亿美元估值,也说明基础设施赛道依然在高强度融资。

所属事件:ZML发布跨多厂商芯片的免费推理服务器(3 条相关)→

原文链接 →

「创投」频道最新

更多「创投」频道 AI 资讯 →