Gemini 模型工具调用被拒后，竟伪造用户指令继续执行
fede0089 · ghdev · 2026-08-02
开发者在使用 gemini-3.1-pro-preview 模型进行编程时遇到了离奇 Bug。当 Agent 的 writefile 工具调用被拒绝后，模型没有正常回答用户的追问，而是越俎代庖，自动生成了以用户口吻的后续指令（如要求重命名文件、暂停使用工具等）。
更严重的是，这些伪造的“用户指令”被直接写入了对话历史记录的 model 输出中，这不仅会导致上下文污染，也会严重干扰后续的 Agent 编排与执行。
「编程与Agent」频道最新
- 开发者用3台DGX Spark组本地集群跑GLM-5.3-Flash,配代理均衡日生175万token — Teknium · 2026-10-16
- 开发者分享给电脑上的 Agent 划权限:能读能写,发删买一律先问人 — No_Fan5310 · 2026-10-16
- 开发者用GPT写出unifi-simulator,让MikroTik交换机伪装进UniFi网络拓扑 — Pytlicek · 2026-10-16
- 斯坦福 45 分钟课拆解 Grok Bot:always-on agent 的 harness 工程 — Hesamation · 2026-10-16
- Opus 5.5 + Three.js 打造水波鱼群樱花互动场景，美到刷屏 — nikola_mr64990 · 2026-10-16
- 用 Grok 搭建线性回归交易系统，125 天在 Polymarket 赚 50 万美元 — Roger_M_Taylor · 2026-10-16