LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线
ying11231 · x · 2026-10-16
Banghua Zhu 宣布其团队(LMA/Chatbot Arena 相关的 day-0 支持体系)沿两个方向扩展:从推理到训练,从 NVIDIA 到 AMD、Intel 和 TPU。
- 推理侧:已通过 SGLang 在全部四种硬件上支持新模型 day-0 推理。
- 训练侧:与 Miles 合作的 RL 训练已在 NVIDIA 上就绪。
- 里程碑:首次在 TPU 上实现模型的 day-0 支持,性能已优化并通过生产环境实战验证。
「Infra」频道最新
- Filecoin 主网上线六年，转向 AI 时代存储并推出 S3 对象存储 — juanbenet · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机 — gajesh · 2026-10-16
- Artificial Analysis 将测试 4-bit 量化与 Metal 投机解码引擎 — ArtificialAnlys · 2026-10-16
- RTX Spark 笔记本跑本地 Agent 负载 18.7 分钟，比 MacBook Pro 快一倍 — ArtificialAnlys · 2026-10-16
- 黄仁勋：英国要抓住 AI 黄金时刻，先解决能源价格 — KeeganMcB · 2026-10-16
- 苹果 MLX 让 816B 模型跑在 4 台 Mac Studio 上，36+ tokens/秒 — andrejusb · 2026-10-16