AI代码的安全漏洞多非「写错」而是「没写」:隐式检查被漏掉
RyzeBlaziken · reddit · 2026-09-17
一位安全工具开发者审阅大量 AI 生成 PR 后总结出一个失败模式:LLM 擅长写出你明确要求的功能,却常漏掉没人明说的隐式安全检查。真实案例包括:一个按 ID 读写日历事件的 API 端点没校验请求者是否拥有该日历;一个签名页在验证授权前就返回了收件人 PII。两例中已写出的代码都很平常,漏洞在于那个从未被写的分支——因为模型按「被要求的事+相似代码的典型样子」补全,「添加没人主动要求的鉴权检查」恰是最容易被丢掉的隐式需求。作者询问是否有人注意到同样的「遗漏 vs 写错」分野,以及是否有让模型可靠浮现隐式需求的研究。
「编程与Agent」频道最新
- 开发者打造开源桌面端 Muse Code 客户端 Helicon,补齐 Windows 体验 — alexandr_wang · 2026-09-17
- Netlify 直播演示 Grok Bot 自主构建并部署网站 — thisiskp_ · 2026-09-17
- OpenJev 开源:一张 RTX 3090 本地跑 Jev 式语义决策 — alexcovo_eth · 2026-09-17
- Browser Use CEO 谈智能体工程:人类才是瓶颈,他已不再读代码 — David Ondrej · 2026-09-17
- 开源项目 Jev:小模型只负责选动作,大模型专注思考 — alexcovo_eth · 2026-09-17
- CROA 开源智能体确定性执行层:单步合法不等于轨迹合法 — CROA_PROJECT · 2026-09-17