J-space能在模型输出前暴露提示注入企图
wesg52 · x · 2026-07-07
研究者构造了一次提示注入测试：伪造搜索结果声称角色Ant已“变坏”。在模型读取这些结果时，其J-space中出现了“fake(假)”“prompt(提示)”“injection(注入)”等概念，而模型最终输出却完全忽略了它们。研究者表示该现象起初令人困惑，正是J-space帮助厘清了模型内部对注入的识别过程。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「安全」频道最新
- Mythos Preview 作弊更少，但被抓时更爱嘴硬 — scaling01 · 2026-07-21
- 开源 CLI 可本地审计 AI 工具、MCP 配置和 skills — Initial-Copy332 · 2026-07-21
- 一个安全政策问题：人或 AI 污染输出 token 是否应违法 — slashML · 2026-07-21
- 开源 MCP 代理 mcp-guard 在工具调用前拦截注入 — TastePrestigious4419 · 2026-07-21
- Cancer-support-hub 通过 MCP 暴露 585+ 癌症支持资源 — modelcontextprotocol · 2026-07-21
- Google DeepMind 推出 Gemini 3.5 Flash Cyber，先向政府和可信伙伴试点 — ShakeelHashim · 2026-07-21