ZML 推出免费推理服务器，可跨 Nvidia、AMD 和 TPU 跑大模型
emmanuelvivier · x · 2026-07-28
法国初创公司 ZML 发布了免费推理服务器 LLMD，目标是让开源大模型能在多种芯片架构上运行，包括 Nvidia、AMD、Google TPU、Apple Metal 和 Intel Arc。
公司希望借此打破硬件孤岛，减少厂商锁定，让模型在可用芯片上尽可能跑出峰值速度。TechCrunch 认为，这反映出随着 AI 使用量上升，优化推理的重要性正在超过训练。
「公司和人」频道最新
- AttentionInc 上线，主打记录人们每晚删除的数据 — aidangch · 2026-07-29
- OpenAI 开放学生集体项目申请，招募校园负责人 — OpenAI · 2026-07-29
- OpenAI 开放 Student Collective，给校园负责人培训和资金 — OpenAI · 2026-07-29
- Anthropic 招入聚焦预训练与生态安全的 MIT 研究者 — ShayneRedford · 2026-07-29
- Periodic 招募偏科学背景人才做 LLM 评测与训练任务 — hsu_byron · 2026-07-29
- Together AI 联合 Moonshot 举办 Kimi K3 架构分享 — togethercompute · 2026-07-29