DeepSeek V4 本地部署工具调用失灵,疑为反馈循环所致
No-Paper-557 · reddit · 2026-08-21
用户尝试在单张 RTX PRO 6000 Blackwell (96GB) 上部署 DeepSeek-V4-Flash 作为本地编码 Agent 遇阻。尽管通过自定义 vLLM-Moet 压缩权重成功加载模型并运行,但在连续工具调用测试中出现严重问题:
- 在第 8 次调用后开始出现原始 DSML 片段泄露。
- 工具调用重复、格式错误,实际执行次数(23 次)远超预期的 12 次。
- 模型自报告显示一切正常,但日志显示严重异常。
用户推测原因可能在于 V4 编码器的机制:当工具存在时,之前的助手推理会被保留并渲染回后续轮次,可能导致模型在长对话中混淆过去的计划与当前结果,形成反馈循环。用户也发现上游 vLLM 有类似的 DSML 泄露报告。
「编程与Agent」频道最新
- Devin Oncall 登顶 SREGym:自动值守排障达 100% 端到端成功率 — tianyin_xu · 2026-10-16
- 多模型同题设计 UI:用 Paseo 编排四套界面方案竞技 — vista8 · 2026-10-16
- 独立研究者发布 Cortex:用重放实测自动进化与修剪编码 Agent 的 skills 和 rules — Samuele Giampieri · 2026-10-16
- 工具调用才是 AI 编程速度瓶颈,Crabbox 五招给 Agent 提速 — steipete · 2026-10-16
- WorldBox 沙盒让 GPT-6 Astra 的 MazeBench 得分从 23 翻倍到 61 — ZhitingHu · 2026-10-16
- 两条 prompt 让 Gemini 4 Argon 把单机游戏改成完整多人对战 — chongdashu · 2026-10-16