荐 LMSYS 与 Meta 工程博客:高性能推理与超大规模基础设施
techNmak · x · 2026-08-25
这篇帖子推荐了两个工程博客:
- LMSYS / SGLang Blog: 专注于高性能 LLM 服务、调度、缓存、并行计算、长上下文推理以及 RL 基础设施。
- Engineering at Meta: 涵盖超大规模 AI 基础设施、分布式训练、推荐系统、存储、网络、排序以及大规模 ML 平台。
所属事件:LMSYS 与 Meta 工程博客聚焦高性能推理与超大规模基础设施(2 条相关)→
「Infra」频道最新
- Vercel Sandbox 现已支持全球区域部署与故障转移 — cramforce · 2026-08-25
- 中国基于 IGZO 的 3D-DRAM 取得进展,逼近 3D NAND 制造工艺 — xiaosun86 · 2026-08-25
- 实测揭示 Agent 落地瓶颈:推理外开销与工具调用 — MatthewBerman · 2026-08-25
- AI 推高成本,Pine64 暂停生产 Linux 设备 — JeremyCMorgan · 2026-08-25
- VecturaKit 发布:基于 Swift 的端侧向量数据库,支持 MLX 加速 — rudrank · 2026-08-25
- OpenAI 单日申请五个商标:JALAPENO 到 SCOTCH BONNET 全是芯片 — AJChadha · 2026-08-25