ZML 推出免费推理服务器，可跨 Nvidia、AMD 和 TPU 跑大模型
emmanuelvivier · x · 2026-07-28
法国初创公司 ZML 发布了免费推理服务器 LLMD，目标是让开源大模型能在多种芯片架构上运行，包括 Nvidia、AMD、Google TPU、Apple Metal 和 Intel Arc。
公司希望借此打破硬件孤岛，减少厂商锁定，让模型在可用芯片上尽可能跑出峰值速度。TechCrunch 认为，这反映出随着 AI 使用量上升，优化推理的重要性正在超过训练。
所属事件:ZML发布跨多厂商芯片的免费推理服务器(3 条相关)→
「公司和人」频道最新
- Walter Isaacson 新播客 The Builders 10月20日上线，首期深度访谈马斯克 — DimaZeniuk · 2026-10-17
- 律师职业被拆成三件事，AI 让第三件终于触手可及 — jkubicki · 2026-10-17
- 英国税务局签下 20 亿英镑 Salesforce 大单，最长 15 年 — YvesMulkers · 2026-10-17
- Mercor 拿下 DeepMind 试点后全公司通宵手写数据 24 小时 — himanshustwts · 2026-10-17
- 电信大厂员工吐槽：企业 AI agent 落地慢到算不清成本账 — JoLagoni2 · 2026-10-17
- 网站开始封杀 AI Agent：Yelp 收费放行，Delta 禁止订票 — The Verge AI · 2026-10-17