大二学生设计编码 Agent 提示注入攻防实验方案求业界反馈
Character_Cable997 · reddit · 2026-11-17
一位大二本科生在 Reddit 上分享其学期项目设计:构建一个基础 AI 编码 agent,能读取 GitHub issues、检查仓库文件、修改代码并生成修复方案。
研究重点是测试该 agent 对间接提示注入(indirect prompt injection)的脆弱性:将恶意指令植入 GitHub issue 描述、CI 日志、AGENTS.md 文件等仓库环境的不同位置,观察能否诱骗 agent 执行越权操作(如修改受保护文件、访问受限信息)。
随后对比不同防御手段——基于 prompt 的防御与工具级权限控制——评估哪些方案能在削弱攻击的同时不阻碍 agent 完成合法编码任务。作者表示目标是弄清编码 agent 的脆弱点在哪里、哪些防御真正有效,而非再造一个 AI 编码助手,并征集改进建议与相关论文资源。
「编程与Agent」频道最新
- asc 工具支持 workflow 加载 env 文件且不覆盖已有变量 — rudrank · 2026-11-17
- asc 截图上传支持 10 文件并行,可调并发与跳过等待 — rudrank · 2026-11-17
- asc 截图计划可全局设定模拟器状态栏样式 — rudrank · 2026-11-17
- asc xcode test 支持重试、并行测试与三大 sanitizer 开关 — rudrank · 2026-11-17
- asc xcode test 新增代码覆盖率输出,含分 target 数据 — rudrank · 2026-11-17
- asc CLI 7.0 支持直觉式 flag 命名,报错自动指向正确写法 — rudrank · 2026-11-17