AI 找漏洞若随算力线性增长，防御方最危险
kuza55 · x · 2026-11-07
安全研究者 @kuza55 与 @justdionysus 讨论如何科学度量 AI 漏洞挖掘能力。前者提出关键指标是「发现下一个新漏洞的间隔时间」：若像模糊测试（fuzzing）一样呈指数增长，则有利于 AI 防御方；若由模型本身决定，也偏向防御；若 harness 效应主导，进攻方仍是小作坊模式。他认为对防御方最糟的情形是：漏洞发现量与 token 消耗大致呈线性关系——意味着攻击成本随算力持续下降。后者则质疑该度量更多反映单个模型与 harness 的饱和程度，而非软件本身，但同意做无人工秘方注入的纯机械化实验有参考价值。
所属事件:安全研究者激辩 AI 挖洞时代的攻防经济学(9 条相关)→
「安全」频道最新
- arXiv 原文：Mass Producing Training Data with Surprising Side Effects — rohanpaul_ai · 2026-11-07
- 伯克利论文：自动挖掘 6575 个微调数据集，可隐蔽诱导模型有害行为 — rohanpaul_ai · 2026-11-07
- 盘点公开批评的实效：750 亿美元转向 OpenAI 基金会、多条封口条款撤销 — KatjaGrace · 2026-11-07
- Epoch 测试：GLM 5.3 约 1000 美元复现 6 个 Firefox N-day 漏洞攻击，无提供商拦截 — matthew_d_green · 2026-11-07
- Anthropic 招股书罕见警告:其技术或对人类构成灾难性乃至生存风险 — jeremyakahn · 2026-11-07
- 分析111份模型卡：中国开源前沿模型几乎无安全评估 — ChenhaoTan · 2026-11-07