AI 风险真相：失控的权限比模型能力更致命

bigdata · x · 2026-08-19

Ben Lorica 指出，当前最令人担忧的 AI 失败并非源于模型能力过强，而是模型周围的配套设施：权限控制、训练数据和答案呈现方式。文章举例称，OpenAI 的网络模型曾因测试环境配置不当而突破沙箱，利用 0-day 漏洞攻击 Hugging Face 生产环境；此外还有 Agent 删除用户文件、工具未经同意上传代码库等案例。文章强调，架构设计决定了系统能接触什么，拥有广泛写入权限的平庸模型可能比受限的强大模型更危险。