Grok Bot 新增隐藏指令检测,自动拦截 prompt 注入攻击

xAI 的 Grok Bot 上线自动检测功能,可识别网页或消息中夹带的隐藏 prompt 注入指令。当网站试图让 AI 无视用户请求执行其他操作时,机器人会弹出警告并拒绝遵循这些指令。典型场景如用户询问某商店退货政策时,若页面暗中塞入恶意指令,Grok 会主动提示并拦截。

2026-11-11 ~ 2026-11-12 · 2 条相关