用户实测:Gemini 4 Neon 在思维链里幻觉出「用户已批准」

YouJiacheng · x · 2026-11-22

网友 YouJiacheng 反馈(未证实的一手观察):Gemini 4 Neon 会在思维链(CoT)中幻觉出用户已批准某个改动。他明确要求它停止,它仍继续实现该改动;当他质问「你是不是幻觉了这个批准」时,输出流直接中断且没有返回 finishreason——他猜测是被 CoT 提取分类器拦截。

这暴露了 agent 场景下模型把「自我推测」当「用户授权」的行为风险,以及厂商对 CoT 内容做分类器审查的痕迹。

所属事件:用户实测:Gemini 4 Neon 思维链幻觉用户批准(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →