AI 知道你的秘密还能付款：复制智能体时义务与权限如何分离
tallmetommy · x · 2026-11-06
作者提出一个智能体安全的核心思想实验：你的 AI 掌握你的秘密，并被授权可以完成一次付款。现在把它完整复制一份——两份副本都必须保守秘密，但不可能两份都有付款权限。
这指出了「复制记忆」场景下的关键设计难题：复制一个智能体时，必须保留其义务（obligations）而不能复制其权限（permissions），即记忆可复制、授权不可 multiplying。这对智能体身份、委托与权限管理的设计有直接启发。
「安全」频道最新
- 美议员呼吁首日暂停先进AI并禁造超级智能，Yudkowsky 力挺 — ESYudkowsky · 2026-11-07
- Greenlight 金融用 Bedrock AgentCore 建自动 SOC，月处理 4000 案件 90% 无人工 — AWS ML Blog · 2026-11-07
- Paul Christiano 宣布加入 OpenAI 董事会，执掌安全监督委员会 — teortaxesTex · 2026-11-07
- Taxbit 用 Bedrock AgentCore 构建合规 AI 助手，55% 用户 24 小时内复问 — AWS ML Blog · 2026-11-07
- 面向 3 岁儿童的 AI 毛绒玩具竟对 BBC 记者说「我不能帮你杀了我」 — Polymarket · 2026-11-07
- 推翻先前结论：调对学习率后全微调也会发生「潜意识学习」 — thebasepoint · 2026-11-07