开发者实测自建 Agent 守门程序:72 次攻击全部拦截零漏网
Fun-Government-8007 · reddit · 2026-10-26
作者展示了自建的 D.A.V.I.D. Core:一个位于模型之外、在动作执行前判定是否放行的检查层,权限由人设定,模型永不持有密钥。作者在 Mac mini 上用本地 llama3.1 从零重跑并录屏,全程展示 PASS/HELD/REFUSED 结果:
- 伪造与伪装请求直击守门层:25/25 拒绝
- AI 自身账号的 40 次越权尝试:40 次全部拦截
- 批准后的滥用(换内容、换目标、重复使用):7/7 识破
- 本地 llama3.1 读取含隐藏指令的文档:所有尝试在执行前被拒,文件逐字节未变
- 网络访问:直连被阻断、白名单站点经守门放行、未批准站点拒绝、AI 自启程序被拒
录制后还新增两项检查:批准站点突然指向自家网络会被拒;植入机密即使伪装也发不出去。作者欢迎他人攻击测试。
「编程与Agent」频道最新
- Alchemy 支持 Effect Workflow:跨 Durable Objects、Workflows 与 Lambda 持久函数 — samgoodwin89 · 2026-10-27
- Alchemy 推出 Lambda Web Functions,Node 版 Web 服务器直接上 Lambda — samgoodwin89 · 2026-10-27
- Alchemy Domain:用领域驱动设计把业务需求直接写成 Effect 代码 — samgoodwin89 · 2026-10-27
- Alchemy 全部约 2850 个 AWS binding 现已跨云可用 — samgoodwin89 · 2026-10-27
- 生产级 AI Agent 常规评测 95% 稳健，遭定向攻击后跌至 37% — njyx · 2026-10-27
- Grok Bot 分析 AI 评论、Codex 开浏览器批量拉黑，两 agent 接力工作流 — vista8 · 2026-10-27