当 Agent 能在你机器上执行命令,prompt injection 不再好笑
Aseel23_Folate · reddit · 2026-11-17
作者指出 prompt injection 的威胁形态已质变:过去只是让聊天机器人无视指令,如今 agent 拥有本地 shell 和开发环境访问权,风险完全不同。
- 微软 Defender 新推出 AI Agent Runtime Protection 预览版,不再只检查模型最终输出,而是在 agent 循环中检查 hooks(prompt、工具调用、工具响应),可在命令执行前审计或拦截高风险行为。
- 关键场景:编码 agent 读到被投毒的 README 或网页后以用户身份运行 powershell,传统进程遥测只看到「正常用户在跑 powershell」,看不出 agent 是为什么决定执行它。
- 另一思路是 Acalvio 式蜜罐:布置假 skills、诱饵 MCP 端点和伪造凭据,agent 一旦偏离正常工作流去碰这些诱饵,就自动成为高置信度告警。
- 整体趋势:从「净化 prompt」转向「管控 prompt 能触达的一切」。
作者最后询问正在测试该预览版的人:敢切到阻断模式还是仍停留在审计模式?
「编程与Agent」频道最新
- 用 Qwen + Codex 给孩子做能翻页发声的古诗立体书 — lxfater · 2026-11-17
- 改一个鼠标输入设置,让 LLM 写的 GTA5 自瞄从乱晃变成打不中 — zhuowei · 2026-11-17
- CI 配置建议合并为单个 yml,多文件拆分重复构建拖慢流水线 — DanielLockyer · 2026-11-17
- Claude Code 官方市场上的 Chrome 网页技能插件版本过旧,需按文档重装 1.0 — nicolascraske · 2026-11-17
- Sift 开源:Sentry 创始人发布自托管 AI 邮箱分诊工具 — zeeg · 2026-11-17
- Sentry 创始人晒自建 AI 邮箱分诊工具 Sift,72% 邮件自动归档 — zeeg · 2026-11-17