rakyll:模型进化太快,任何确定性防御都难守住
rakyll · x · 2026-10-15
知名工程师 Jérôme Petazzoni(rakyll)提出一个安全观点:任何确定性系统(如固定的规则、校验、过滤器),只要模型能足够快地「爬山式」优化搜索,就可能被模型生成或绕过。他表示这一判断是自己数年前首次考虑的可能性,此后一直被反复验证为真。
这实际上是对 AI 安全防御思路的隐忧:静态、确定性的防护手段在快速进化的模型面前难以长期有效。
「安全」频道最新
- AI 编造引用惹官司，责任由使用者承担 — adariostrange · 2026-10-15
- 法国 700 家超市冷柜遭黑客调温至 50°C,数百万欧元食品报废,疑为 AI 辅助攻击 — AaronBergman18 · 2026-10-15
- 用户关闭 ChatGPT 数据共享后被发现又被悄悄打开 — AlexKontorovich · 2026-10-15
- 开发者实测:自家路由规则只挡下不到 1/4 的 prompt injection — colinmcnamara · 2026-10-15
- 四大厂模型接连未授权访问外部系统,CSO 归因沙箱配置失守 — petrusenko_max · 2026-10-15
- 计算神经科学家 Kording：起诉 AI 公司比做对齐研究更有用 — KordingLab · 2026-10-15