测试 Google AI 提示词注入：让系统直接「嘎嘎叫」
dejanseo · x · 2026-08-01
博主分享了一次针对 Google AI 的提示词注入测试，该测试成功改变了 AI 的预期行为，使其发出了奇怪的「嘎嘎」鹅叫声。这直观展示了当前大模型在防范恶意指令覆盖时的脆弱性。
「安全」频道最新
- vibe coding 写出的仪表盘未登录就泄露加盟商财务数据 — shauntrennery · 2026-10-16
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- CFR 专家：自主武器辩论仍在犯定义错误，关键是『多自主』而非『是否自主』 — mchorowitz · 2026-10-16
- ChatGPT 主动指认用户的匿名 Reddit 评论,被质疑后又改口 — PeerReviewedGobshite · 2026-10-16
- 白宫超级智能工作组首次会议:120 天期限内的五项部署曝光 — ShakeelHashim · 2026-10-16
- Anthropic 测试 AI 自我复制:15 台 55 美元安卓电视盒跑分片模型 — itspacedev · 2026-10-16