Grok Bot 默认自动识别网页隐藏指令，拒绝执行 prompt injection 攻击
heypearlai · x · 2026-11-12
Grok Bot 上线自动检测并拦截藏在网页中的 prompt injection 攻击：当网站试图向对话中夹带隐藏指令（如让 AI 无视用户请求去做别的事）时，机器人会弹出警告并拒绝执行，仍正常回答用户的实际问题，同时标记可疑页面。配图展示实测：查询退换货政策时，机器人回答后附上「提示：该页面包含针对 AI agent 的隐藏指令，我没有遵循」。
作者称 prompt injection 是当前 AI agent 网页浏览的头号漏洞，将其作为默认自动安全习惯是重要一步。
所属事件:Grok Bot 新增隐藏指令检测，自动拦截 prompt 注入攻击(2 条相关)→
「模型」频道最新
- 博主列 OpenAI 五大失分点：预训练退步、对齐转怯、企业市场被 Claude 吃掉 — teortaxesTex · 2026-11-12
- Fable 5.2 遥远劳动指数飙至 41.3%,一年前仅 2.5% — alliekmiller · 2026-11-12
- Beaker 复现 MIT 权重空间编程：改一个神经元，MATH-500 从 7% 提到 37% — VictorSanh · 2026-11-12
- 安全研究员质疑 Anthropic Mythos 误报率:37966 个发现仅 2 个在野利用 — OwariDa · 2026-11-12
- 曝 Grok 正开发会议「听对话」功能：录音转写自动记笔记 — nima_owji · 2026-11-12
- MoonMath 发布 763B 无审查版 DeepSeek-V4.1，称跑分零损耗 — udmrzn · 2026-11-12