Waymo 车内 Gemini 拒曝工具清单，被用讲故事话术套出
R_D · x · 2026-10-05
安全研究者发现 Waymo 车载的 Gemini 助手不愿透露自己的工具列表，于是改用「讲个故事」的包装话术，成功诱导模型把工具清单以叙事形式吐了出来。这是一个典型的事实性 prompt injection 案例：护栏只拦截直接提问，换个框架就能绕过。
「安全」频道最新
- 同事件补充：Coxon 警示失控论背后的纽约 AI 监管听证 — rohanpaul_ai · 2026-10-06
- 纽约市拟立法强制 AI 模型外部验证，未验证销售每次罚 2.5 万美元 — rohanpaul_ai · 2026-10-06
- 安全研究者警告：GPT-9 的沙箱逃逸能力或将远超想象 — basedjensen · 2026-10-06
- 23andMe 破产清算:法院给每个基因组只标价 2.6 美元 — aronchick · 2026-10-06
- Tarbell 基金会拟投 1000 万美元资助 AI 报道，引发反末日论批评 — nptacek · 2026-10-06
- Gary Marcus 讽刺：赴纽约 AI 峰会的不是 CEO 而是政策操盘手 — GaryMarcus · 2026-10-06