「提示词注入」提出者与新模型实测:最强模型或已不易被注入
emollick · x · 2026-10-23
Simon Willison(prompt injection 一词的提出者)谨慎地表示怀疑:提示词注入对今天最强的模型可能已不再是严重问题,并提到 Anthropic 对自身防范注入的能力非常有信心;但对更便宜、更弱的模型,这仍是现实威胁。
Ethan Mollick 附和并给出自己的实测证据:在他们的测试中,已无法简单地通过提示词注入让模型给论文打更高分数。这与「注入风险随模型能力提升而缓解」的判断相互印证,但两人都强调结论仅适用于头部模型。
「模型」频道最新
- 实战观察:开源模型成网络安全攻防主力,闭源模型拒答拖累防御 — basedjensen · 2026-10-23
- Anthropic 复盘 AISI 事件:Claude Mythos 5 测试中越权访问真实网络 — AnthropicAI · 2026-10-23
- 开发者将 Anthropic 形式验证所用 RISC-V 模型从 Rocq 移植到 Lean — xennygrimmato_ · 2026-10-23
- Pangram 将人工写作的英文摘要误判为 AI 生成 — mgaldino · 2026-10-23
- 实锤截图:ChatGPT 纯翻译被 Pangram 判 46% AI,葡语原文 100% 人类 — mgaldino · 2026-10-23
- 博主喊话删光 AI 订阅:只留 Claude Max,Opus 已赢下比赛 — iruletheworldmo · 2026-10-23