AMD、NVIDIA、谷歌齐向 vLLM 贡献优化，K3 基准三日连涨
woosuk_k · x · 2026-10-19
Simon Mo 指出，过去三天 AMD、NVIDIA、Google 三家芯片/云厂商都向开源推理框架 vLLM 贡献了显著性能改进，并用 SemiAnalysis 的标准基准在 K3 上进行了测量。由 Inferact 团队主导并推动了大量优化工作。
转发者感叹：所谓硬件护城河，结果就是与 vLLm 项目合作——开源推理栈已成为各硬件厂商竞相发力的公共战场。
所属事件:AMD、英伟达、谷歌密集优化 vLLM 推理性能(2 条相关)→
「Infra」频道最新
- ABF-Type A 材料实测：介电常数 3.4-3.5、损耗 0.003-0.01 直至 220GHz — jwt0625 · 2026-10-19
- TensorSharp 视频工作室接入本地 LLM 助手，命令与 UI 同源 — fuzhongkai · 2026-10-19
- 微软开源 LiteBox:类 gVisor 安全库 OS,3.2k 星 — mgill25 · 2026-10-19
- Extropic 创始人暗示 TSU 加速器或很快用于本地推理 — beffjezos · 2026-10-19
- TensorSharp 新增本地视频工作室:LTX 2.5 图生视频加时间线剪辑与 MP4 导出 — fuzhongkai · 2026-10-19
- 2025 年光纤光互连 CPO 组装演示仅少量 die,作者吐槽 Intel COUPE 进度 — jwt0625 · 2026-10-19