Kimi K3.1 Pro 长程编码基准 61.2%,较 K3 提升超 5 个百分点
vllm_project · x · 2026-11-05
vLLM 官方转述 Kimi 内部基准成绩:K3.1 Pro 在 Kimi Code Bench 3.0 Long-horizon 上得分 61.2%,高于 K3 的 55.95%。该基准考察多步执行、工具使用与端到端工程,两项测试均使用 Claude Code harness 并开最大推理强度。
配套的 serving 工作包括:token 分片的 prefill、解码上下文并行的精确 top-k 合并,以及融合的低延迟解码路径,使 K3.1 的 DSA 稀疏注意力与循环式 Kimi Delta Attention 能在单一 packed cache 中同时持有 MLA latents、indexer keys 和 KDA 状态。
所属事件:vLLM 首日支持 Kimi K3.1,训练推理全链路打通(5 条相关)→
「Infra」频道最新
- Mistral Large 4 1T 上架 HF 推理端点,4×A100 每小时仅 $10 — ngxson · 2026-11-05
- vLLM 首日支持 Kimi K3.1:长程编码跑分 61.2%,训练推理栈打通 — vllm_project · 2026-11-05
- NVIDIA 发布 CUDA-X 加速 Abaqus 结构仿真 — NVIDIAAI · 2026-11-05
- SpecAgent:Claude Code 多会话流水线,上下文成本实测 3 倍差 — AdOtherwise9458 · 2026-11-05
- 软银云子公司遭勒索软件攻击:7 分钟沦陷,近 500 家机构受影响 — ChuckDBrooks · 2026-11-05
- 2500 美元本地装机实测:27B 模型跑出 150 tokens/s — casper_hansen_ · 2026-11-05