vLLM 跑分：DeepSeek V4 Pro 达 13 万 tok/s
AccBalanced · x · 2026-08-27
SemiAnalysis 发布了 AgentX 1.0，这是一个基于价值 300 万美元真实轨迹采集的开源多轮智能体编码基准。测试显示 vLLM 在前沿开源模型上表现强劲：DeepSeek V4 Pro 单芯片速度达 130,093 tok/s，MiniMax M3 达 77,079 tok/s，Kimi K3 达 12,479 tok/s。该工作突显了 vLLM 在真实工作负载下的性能及其对 Agent 优先引擎的专注。
「Infra」频道最新
- ASML CFO 称美国限制对华 DUV 销售将适得其反 — pstAsiatech · 2026-10-15
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线，端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15