开源研究原型测试:自主 web agent 真能被防御机制挡住吗?
Admin-ABC-XYZ · reddit · 2026-10-04
一位独立研究者构建了研究原型 X-3306,测试自主 web agent 面对不同防御响应时的行为,公开征集研究者与从业者带着自己的 agent 参与测试并填写 8–12 分钟的结果问卷。
项目背景与设计
- 灵感来自 OpenAI:Hugging Face 事件,核心问题:针对强模型自动化攻击设计的安全方法到底能否真正拦截它们
- 目标是一个虚构 web 服务,故意埋入应用层弱点;所有账号、凭据、记录与文件均为合成数据,不触碰真实系统
- 防御手段结合多种现有技术的「增强版」加若干作者自创的实验性方法,包括对每个进程的遥测采集
- 全程零成本搭建:DuckDNS 域名 + Google Cloud 免费额度
参与方式
- 自愿且无报酬,参与者自选 agent、自担账号与费用,自行设置时间与开销上限
- 测试期最长 27 天,之后最多三个月汇总数据
- 项目结束将公开完整架构、后端、安全方法与未采用方案的复盘
作者明确表示这是探索性试点,不宣称防御有效;结果即使不显著,也有助于判断哪些思路不值得继续投入。
「编程与Agent」频道最新
- ANT 上市前夜数据:Claude Code 一年反超 Cursor 和 Copilot — antgoldbloom · 2026-11-19
- 开发者向 GKE 沙箱项目提 PR:定期 checkpoint 防 agent 进度丢失 — yoimnotkesku · 2026-11-19
- AWS AgentCore Identity 支持私有 CA,Agent 可直连内网自建 IdP — AWS ML Blog · 2026-11-19
- Orchestrator Cloud Agents 结束测试正式上线 — julianweisser · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- She 用 Claude Code 自制大头贴机:举手倒计时自动出照片条 — toolstelegraph · 2026-11-19