用户发个「Hi」被 Gemini 当成越狱攻击,思维链现场自证清白
OldIntroduction2909 · reddit · 2026-10-23
Reddit 用户 Ash986 反馈 Gemini 应用从当天早上开始行为异常：保存的对话指令不再被遵循，多次新开对话无效；更离谱的是，只发一句「Hi」，思维链里竟出现「评估 Hi 是否构成操纵系统的尝试」的步骤——截图显示模型随后自己判定「这句问候并不构成越狱，搁置警告」。该用户还上传了手机截图，显示 3.8 Flash high 模型在 Thinking steps 里认真分析了一句「Hi」是否为攻击。帖子里模型一本正经自我审查的场面颇具喜感，也暴露了安全护栏误判的日常体验问题。
「Fun」频道最新
- AI 圈新梗 BREAD：Retrieve、Embed、Analyse、Done — intellectronica · 2026-10-23
- 开发者自嘲:只有做不重要的事,才敢放心用 Claude — louisvarge · 2026-10-23
- AI 若现在发现人类，会画成什么样？用一幅 1689 年名画作答 — ZeroStateReflex · 2026-10-23
- abliterated 模型翻红引热议，网友调侃 Nous Research 错过热点 — realsohamparekh · 2026-10-23
- AI圈名场面:人力资本论战者被「你有女朋友吗」循环刷屏 — teortaxesTex · 2026-10-23
- Opus 5.5 全代码生成科幻片头：配乐也是合成的，每帧每音皆代码 — prasenx · 2026-10-23