Grok Bot 新增隐藏指令检测：发现 prompt 注入即警告并拒绝执行
XFreeze · x · 2026-11-11
据 X 用户 XFreeze 介绍，Grok Bot 现在会主动提示页面或消息中隐藏的注入指令，并且不再遵循这些指令。
典型场景：当你询问某商店的退货政策时，如果该页面暗中塞入了针对 SI agent 的命令，Grok Bot 仍会回答你的实际问题，同时标出检测到的隐藏指令。作者认为这是一种内置于产品的安全习惯，也是模型能力的体现。
「模型」频道最新
- 爆料：Google 新模型阵容曝光，含 Flash 迭代与视频模型 — koltregaskes · 2026-11-11
- 同一段提示词实测：Fable 5.2 花时 3 倍费用 2 倍，换来导演级表达 — iamfakhrealam · 2026-11-11
- Krafton 开源 1.5B 端侧模型 Raon-1 nano,多项基准超同尺寸对手 — DimitrisPapail · 2026-11-11
- 打错字会让 LLM 不舒服？tokenization 引发有趣讨论 — menhguin · 2026-11-11
- MiniMax H3 开源百天:衍生模型 1472 个,下载破 1.48 亿次 — linoy_tsaban · 2026-11-11
- 美团 LongCat-2.5 登上 Hugging Face 趋势榜,MoE 多模态架构 — meituan-longcat · 2026-11-11