AI 安全 agent 靠弄坏应用挡攻击，应判为失败
krishnan · x · 2026-11-02
Krishnan 提出 AI 安全 agent 的核心评测原则：靠破坏应用本身来阻止攻击应当算失败，「挡住 exploit」和「保住正常功能」必须写进同一个修复契约。配图为一张「Blocked the attack / Broke the product」象限图：按「是否挡住攻击 × 是否保留合法用途」划分出四格，只有两格都过关才算真正修复——shutdown is not a fix。
所属事件:CWE-bench 发布：AI 安全 agent 横评与验收方法论(7 条相关)→
「安全」频道最新
- Cisco 发现用 Claude 窃密的多模型恶意软件，被拒就换 Kimi 绕护栏 — Hesamation · 2026-11-02
- 曝 Grok 将于 11 月 7 日起为 AI 生成文本嵌入隐形水印，以符合欧盟 AI 法案 — Polymarket · 2026-11-02
- SemiAnalysis：若禁令蔓延，2028 年美国 30.3GW 数据中心容量面临暂停风险 — Eliv_nurotic · 2026-11-02
- 联想「加密」指纹 U 盘被拆穿：壳里是张裸 SD 卡 — jedisct1 · 2026-11-02
- Grok 自曝 Beth Barnes 深度 EA 背景,Anthropic 安全政策的「决策者」引争议 — adamamcbride · 2026-11-02
- OpenAI 拟中期选举后发动公关攻势，数据中心改名「AI 算力园区」 — kimmonismus · 2026-11-02