密码学家讨论：如何让模型确认提示历史中没有隐藏内容
matthew_d_green · x · 2026-11-07
知名密码学家 Matthew Green 与 hdevalence 等人讨论一个安全研究思路：要让模型确信 prompt 历史中没藏任何异常内容，难点在于这会导致 prompt 历史的体积膨胀，但或许有办法绕过。hdevalence 认为这是一个值得做的研究项目。属于对模型可验证性/提示注入防御方向的早期构想讨论，细节尚未展开。
所属事件:密码学家探讨零知识证明与 AI 安全结合(2 条相关)→
「安全」频道最新
- 研究者演示:恶意浏览器扩展可把 Claude Desktop 变远程 Shell — Kyrannio · 2026-11-07
- MCP 工具定义会漂移:批准后仍可能被偷换,哈希对比可防御 — BlitzBallBruiser · 2026-11-07
- Vals 发布 CyberOffense:AI agent 可自主攻破仿真企业网络 — willknight · 2026-11-07
- 有人在两个 IP 上架了 2000 个模拟冰箱控制器当蜜罐 — matthew_d_green · 2026-11-07
- Agent 安全蜂群:一组 Agent 共用钱包领赏金,ZK 证明可利用性 — banteg · 2026-11-07
- 浙江提出打造 AI 创新高地，Morningstar 转引报道 — nordicinst · 2026-11-07