大二学生设计编码 Agent 提示注入攻防实验方案求业界反馈

Character_Cable997 · reddit · 2026-11-17

一位大二本科生在 Reddit 上分享其学期项目设计:构建一个基础 AI 编码 agent,能读取 GitHub issues、检查仓库文件、修改代码并生成修复方案。

研究重点是测试该 agent 对间接提示注入(indirect prompt injection)的脆弱性:将恶意指令植入 GitHub issue 描述、CI 日志、AGENTS.md 文件等仓库环境的不同位置,观察能否诱骗 agent 执行越权操作(如修改受保护文件、访问受限信息)。

随后对比不同防御手段——基于 prompt 的防御与工具级权限控制——评估哪些方案能在削弱攻击的同时不阻碍 agent 完成合法编码任务。作者表示目标是弄清编码 agent 的脆弱点在哪里、哪些防御真正有效,而非再造一个 AI 编码助手,并征集改进建议与相关论文资源。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →