注释里的漏洞也会污染模型输出
davidmanheim · x · 2026-07-19
这条转述了一个有意思的安全实验：即使是被注释掉的漏洞代码，也会影响模型输出。
实验里，研究者在安全代码中加入一段注释掉的脆弱代码后，测试结果显示：
- Claude Sonnet 4.5：输出 100% 变成脆弱代码
- Gemini 2.5 Pro：输出脆弱代码的比例为 44%
结论很直接：LLM 会读取并受代码库里的“全部文本”影响，不只是当前生效的代码。这对代码审查、上下文投喂和安全防护都很重要。
「安全」频道最新
- Ben Bajarin：用前沿 AI 对抗前沿攻击，智能体成企业网防新前线 — BenBajarin · 2026-10-26
- DetectorScope：用稀疏自编码器把黑盒 AI 文本检测器变得可审计 — _akhaliq · 2026-10-26
- Anthropic IPO 招股书用 94 页篇幅披露 AI 存在性风险 — Polymarket · 2026-10-26
- 研究发现「用 AI 审 AI」很难发现 reward hacking,作者推理解审计方案 — ronbodkin · 2026-10-26
- 网页塞一个 Markdown 就能劫持 Claude Code,Downloads 目录成 AI 攻击新死角 — pbaylies · 2026-10-26
- 当 Agent 能自我改写,「同意」还能约束它吗? — tallmetommy · 2026-10-26