Gemini 内部指令「do not use python」意外泄漏进 Google 搜索结果

bclavie · x · 2026-11-16

AI 研究者 bclavie 分享了一张难得的截图:Google 搜索的 AI Overview 在回答时把 Gemini 的内部指令原文直接输出了出来,其中赫然写着「do not use python, no computation needed」,随后又给出了一段「Direct answer」正式作答。

这类内部 system instruction 本应完全隐藏,被模型在用户可见输出中泄漏实属罕见,也再次暴露了搜索 AI 摘要在指令隔离上的小尴尬。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →