开源 AI 峰会议程公布：将深入探讨 LLM 推理引擎优化
zainhas · x · 2026-08-12
Together AI 的资深工程师 Zain 被宣布为开源 AI 峰会的演讲嘉宾。
他的演讲将聚焦于 LLM 推理引擎的工作原理，计划深入拆解 tokenization、continuous batching（连续批处理）以及 KV cache 等核心底层机制。
「Infra」频道最新
- CoreWeav Q3新增超25亿美元客户承诺，算力需求强劲 — firstadopter · 2026-08-12
- WeAreDevs 演讲：为 AI 智能体提供按需计算资源 — steren · 2026-08-12
- Hetzner 推出实验性开源大模型 API，免费提供 DeepSeek 等模型 — AccBalanced · 2026-08-12
- Transformers.js月下载量突破1000万，增长迅猛 — nicodotdev · 2026-08-12
- d-Matrix 芯片宣称实现 Qwen 推理 20 倍加速 — TheKanter · 2026-08-12
- 哥伦比亚地震后 Starlink 提供免费服务至 9 月 12 日 — DimaZeniuk · 2026-08-12