J-space能在模型输出前暴露提示注入企图
wesg52 · x · 2026-07-07
研究者构造了一次提示注入测试：伪造搜索结果声称角色Ant已“变坏”。在模型读取这些结果时，其J-space中出现了“fake(假)”“prompt(提示)”“injection(注入)”等概念，而模型最终输出却完全忽略了它们。研究者表示该现象起初令人困惑，正是J-space帮助厘清了模型内部对注入的识别过程。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「安全」频道最新
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18
- Polymarket 开出 OpenAI 年内全面暂停训练仅 8% 概率 — Polymarket · 2026-10-18
- OpenAI 工程师涉藏偷拍设备被捕，申请保释并否认欲逃沙特 — Polymarket · 2026-10-18
- 网友为离奇的 Hugging Face 入侵事件创作漫画解读 — Flugelwagen · 2026-10-18