DeepSeek V4 Pro 输出解析缺陷疑波及 OpenRouter 六成供应商,修复已提交 sglang
michellechen · x · 2026-09-17
Fireworks 相关工程师 Kevin Flansburg 透露,团队发现 DeepSeek V4 Pro 输出解析存在一组共性问题,据称影响 OpenRouter 上约 60% 的供应商。具体是流式工具调用解析缺陷:当部分非字符串参数的序列化形态变化(如从数组/对象退化为 raw-string fallback)时,当前检测器发出的字节不再是最终值的前缀,切片会丢失中间字节,导致 function.arguments 损坏。
团队已向 sgl-project/sglang 提交 PR #39632(buffer complete DeepSeek DSML invokes)修复此问题,并强调做开源推理业务应帮助上游模型在所有供应商处做到快且可靠,才能让企业信任开源替代闭源模型。该说法来自厂商工程师,OpenRouter 供应商受影响比例未独立证实。
「Infra」频道最新
- 欲撼动 Postgres 须先复制其集成生态,而非只拼性能 — mgill25 · 2026-11-02
- 用 ESP32 小屏给 DGX 集群做推理监控面板,固件开源 — CATLLM · 2026-11-02
- OpenRouter 年化 Token 量破 10 千万亿,每 10.5 周翻一倍 — deedydas · 2026-11-02
- Palmer Luckey 追问数据中心 RAM 的使用权边界:能否做服务条款禁止的事 — avaitopiper · 2026-11-02
- 本地跑大模型实测:关闭 MTP 可提升 20-30% 生成速度 — InternalMode8159 · 2026-11-02
- Kioxia 股价一年涨 216%,但较 6 月高点已腰斩再腰斩 — zephyr_z9 · 2026-11-02