Anthropic 称 Opus 5 是目前最抗 prompt injection 的模型
Simon Willison · rss · 2026-07-25
Simon Willison 引用 Boris Cherny 的话说，比起各种评测分数，更让他兴奋的是 Opus 5 在 prompt injection 方面的表现。
系统卡第 73 页的相关部分显示，Opus 5 被描述为 Anthropic 目前最不容易被 prompt injection 成功操控的模型，在 PI evals 和红队测试中都表现很强。
「安全」频道最新
- 前 DOGE 网络研究员用 AI agent 12 小时攻入 Anthropic 内部系统 — GarrisonLovely · 2026-10-27
- Thom Wolf 发布 Alignment Hub：汇集 120+ 起 AI 模型失控公开事件 — Thom_Wolf · 2026-10-27
- Alignment Hub 上线：37 起模型失对齐事件集中追踪 — eliebakouch · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27
- 仅 125 条投毒样本即可给 Qwen2.5-7B 埋后门,引发下载安全争议 — lxrjl · 2026-10-27
- 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27