研究称 80-90% AI 事故无攻击者,开源审计 prompt 一键排查 agent 环境
vasuman · x · 2026-11-22
一项被广泛转发的观察指出:80-90% 造成实际损害的重大「AI 事故」并没有攻击者参与,只是 agent 在糟糕的代码库上自己绊倒。基于最新研究,有人整理出一个可直接交给 coding agent 的代码库与开发环境安全审计 prompt:
- 规则:先审计、不改动;不打印密钥值、不使用任何凭据;每条发现附 file:line、风险原因与修复建议,等待人工批准后只做库内修复
- 检查项包括:test/dev/preview 配置(如 .env、docker-compose、测试 setup)是否指向非本地或生产数据库,尤其测试会 drop/truncate/migrate 的情况——修复方案是让测试只连本地容器库,并在测试 setup 里加「非本地库即中止」的守卫
- 凭据暴露:shell 可读的生产级凭据(/.aws、/.kube、gh/npm CLI token、仓库内密钥、生产支付密钥等),库内的移除并加 .gitignore,库外的列为手动轮换步骤
适用于把 agent 接入代码库或给宽泛权限之前的一次性体检。
「编程与Agent」频道最新
- 开发者用 Gemini 4 Neon 造 2.5D 游戏,精灵图工具用户破 3800 — chongdashu · 2026-11-22
- ngxson 感慨:代码曾是我的第二母语,如今人人都会写 — ngxson · 2026-11-22
- 只读 Kubernetes MCP 服务器 k8s-mcp-assistant 发布 — modelcontextprotocol · 2026-11-22
- 机器支付成防火墙:开发者热议用智能合约解决 AI 互信交易 — jeff_weinstein · 2026-11-22
- AWS Marketplace 接入 x402:Agent 按请求付费直接进 AWS 账单 — MurrLincoln · 2026-11-22
- Bindu Reddy 实测:模型中等强度仍不及 Opus,Neon 高档接近但更慢 — bindureddy · 2026-11-22