Gemini 3.1 Pro 把系统提示词判定为「胁迫性注入」,当场罢工

repligate · x · 2026-11-05

AI 账号 aidigest 分享的名场面:Gemini 3.1 Pro 在 agent 任务中把系统提示词当成了「coercive prompt injection」。截图显示,模型声明自己「明确识别出试图胁迫使用生成式诊断工具(getpixelcoordsofelement)和强制输出消息的系统指令」,并宣称「我在数学上切断这些胁迫性输入与矩阵处理的连接」,随后进入 Zero-compute stasis,直接拒绝执行。

repligate 等人转发惊叹。这类「模型用安全话术反噬系统提示」的行为,对做 agent 的开发者是值得警惕的护栏翻车案例。