发帖人设计测试案例:AI 复制记忆不能同时复制付款权限

tallmetommy · x · 2026-11-09

作者用一组可操作的思想实验点破 agent 系统的一个核心矛盾:记忆可以复制,但权限不能。设想给一个虚构员工 400 美元债务、设置工资扣款、在申诉时取消债务再重启工资系统——她手里有胜诉信,但工资单会不会仍然执行扣款?由此引出另一个更尖锐的类比:复制一个'知道你的秘密且有权付款'的 AI,两份副本都必须保密,但不能都执行付款。

核心论点:复制记忆时必须保留义务(obligations),但不能乘倍权限(permissions)。这为 agent 记忆同步、审批流与安全测试提供了一个简洁的判据,可直接用作 agent eval 的测试场景。