J-space能在模型输出前暴露提示注入企图
wesg52 · x · 2026-07-07
研究者构造了一次提示注入测试：伪造搜索结果声称角色Ant已“变坏”。在模型读取这些结果时，其J-space中出现了“fake(假)”“prompt(提示)”“injection(注入)”等概念，而模型最终输出却完全忽略了它们。研究者表示该现象起初令人困惑，正是J-space帮助厘清了模型内部对注入的识别过程。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「安全」频道最新
- 斯坦福秋季新开 CS120 课程:AI 安全导论 — sanmikoyejo · 2026-09-03
- XBOW 团队拿下今年首个 Chrome 全链漏洞利用奖励 — moyix · 2026-09-03
- x402 协议缺卖家审核，开发者自建验签服务并踩坑实录 — Cold_Quiet_7072 · 2026-09-03
- 全美最大学区禁令：纽约公立学校八年级以下课堂禁用生成式 AI — PolarBearby · 2026-09-03
- 法国政府与 Mistral 签新约，AI 进入网络安全与司法公共服务 — Loo_Atreides · 2026-09-03
- 可解释性研究员:白盒方法再好,科学成熟也需时间沉淀 — saprmarks · 2026-09-03