DSv4 Flash 超长上下文下的工具调用稳定性问题
captaintobs · reddit · 2026-08-21
用户在 4 个 Spark 实例上使用 jasl/vllm 运行 DSv4 Flash 模型时发现，当上下文超过 10 万 tokens 后，模型开始出现工具调用失败（如漏掉字符 '>'）。虽然模型吞吐量很高（单实例 50 tps，聚合 >100 tps），但稳定性不足。相比之下，GLM 5.2 更准确但速度较慢（25 tps）。
「模型」频道最新
- Meta 开源 816B 参数 MoE 模型 Muse Spark Open,激活仅 42B — victormustar · 2026-10-16
- Baseten 首日上线 Muse Spark Open API:输入 $1.25/百万 token — baseten · 2026-10-16
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- d1-ultra 登顶 Artificial Analysis 决策指数，成本仅约 30 美元/百万任务 — JosephJacks_ · 2026-10-16
- 用户喊话 Google：给新模型放宽用量、合并成一个 App — dreamwieber · 2026-10-16
- 用户吐槽:Gemini 网页版可用但编码工具中无权限,体验割裂 — dreamwieber · 2026-10-16