Gemini 内部指令「do not use python」意外泄漏进 Google 搜索结果
bclavie · x · 2026-11-16
AI 研究者 bclavie 分享了一张难得的截图:Google 搜索的 AI Overview 在回答时把 Gemini 的内部指令原文直接输出了出来,其中赫然写着「do not use python, no computation needed」,随后又给出了一段「Direct answer」正式作答。
这类内部 system instruction 本应完全隐藏,被模型在用户可见输出中泄漏实属罕见,也再次暴露了搜索 AI 摘要在指令隔离上的小尴尬。
「Fun」频道最新
- 嫌弃 Artificial Analysis 界面,开发者自制独立版模型对比工具 — teortaxesTex · 2026-11-16
- 「别担心」:网友自嘲该操心的是别让 AI 弄死人类 — iruletheworldmo · 2026-11-16
- Gary Marcus 硬刚网友:GPT-6 一下午做不出 GTA 6 — GaryMarcus · 2026-11-16
- Theo 称 LLM 源于 autocomplete 跑太久,遭批混淆发现与发明 — nptacek · 2026-11-16
- 主播 Speed 跳越兰博基尼:大脑反应需 0.25 秒,必须提前起跳 — aakashgupta · 2026-11-16
- 反 AI 创作者言论引回击:AI 创作者反呛「想要屏蔽蠢人选项」 — AIandDesign · 2026-11-16