DeepSeek-V4-Flash 推理受阻：vLLM 暂不支持新 confidence_head
teortaxesTex · x · 2026-08-01
开发者发现 DeepSeek-V4-Flash-0731 版本引入了 DSpark confidencehead（置信度头部），但当前 vLLM 的公开 NVIDIA loader 会将其丢弃，因为该模块尚未接入推理流程。
「Infra」频道最新
- 隐性知识流失快，AI时代核电重建面临挑战 — gabriel1 · 2026-08-01
- 高通收购 Modular：剑指开放 AI 基础设施标准 — clattner_llvm · 2026-08-01
- 马斯克断言：99.99%的AI算力最终将转移至太空 — Polymarket · 2026-08-01
- CoreWeave 推出 Sandboxes：为 Agentic AI 提供执行层 — wandb · 2026-08-01
- 引擎无关的 Rust LLM 网关 SMG 从 LightSeek 毕业独立 — vllm_project · 2026-08-01
- NInfer 实测：Qwen3.6 预填充速度提升超 2 倍 — tat_tvam_asshole · 2026-08-01