Google 推出浏览器端推理库
HowDevelop · x · 2026-07-10
Google 推出了 LiteRT.js,主打在浏览器客户端进行高性能 AI 模型推理。它延续了 TensorFlow.js 的定位,但强调全部在本地运行,因此更注重隐私保护,也不产生 token 成本。
所属事件:Google 推出浏览器端推理库 LiteRT.js(4 条相关)→
「Infra」频道最新
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel,H100 上提速 2.75 倍 — sguada · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- 要么人力商品化,要么 GPU 商品化:算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27
- DeepSpeed 发布 AutoEP/AutoTP 等并行化进展并办线上答疑 — PyTorch · 2026-10-27
- 9B 本地模型干机械活,规划交给大模型:一套省 token 的编程 agent 分工法 — Electrical_Ninja3805 · 2026-10-27
- Cloudflare Durable Objects 被验证为 AI agent 高并发场景优选架构 — tristanbob · 2026-10-27