vLLM 跑分：DeepSeek V4 Pro 达 13 万 tok/s
AccBalanced · x · 2026-08-27
SemiAnalysis 发布了 AgentX 1.0，这是一个基于价值 300 万美元真实轨迹采集的开源多轮智能体编码基准。测试显示 vLLM 在前沿开源模型上表现强劲：DeepSeek V4 Pro 单芯片速度达 130,093 tok/s，MiniMax M3 达 77,079 tok/s，Kimi K3 达 12,479 tok/s。该工作突显了 vLLM 在真实工作负载下的性能及其对 Agent 优先引擎的专注。
「Infra」频道最新
- 英伟达 Q3 指引营收 1080 亿美元，不计中国数据中心仍翻倍 — inductionheads · 2026-08-27
- Palantir CEO 观点：严肃企业需要拥有自有模型与基础设施 — JosephJacks_ · 2026-08-27
- 自建算力节点加入 OpenRouter 的经济可行性分析 — ell-hol1 · 2026-08-27
- 分析指英伟达高营收距企业变现仍有数层 — iamKierraD · 2026-08-27
- M1 发布多年后，Apple 芯片性能仍甩开 Intel/AMD — lemire · 2026-08-27
- 自建 vLLM INT8 推理栈：4 张 MI100 跑 Qwen 27B 达 972 tok/s — 1ncehost · 2026-08-27