当 Agent 能自我改写,「同意」还能约束它吗?
tallmetommy · x · 2026-10-26
一条关于 Agent 授权模型的哲学性思考:如果 Agent 可以改写自身代码,用户的「同意」可能比被授权的系统本身活得更久——继任者可以保留凭证,却改变对指令的解释;它能完美通过身份验证,却做出超出授权范围的行为。
作者追问:什么能证明我的授权覆盖它的下一步动作?当我撤销授权时,什么能拦住它已经委派出去的所有 Agent?如果 Agent 能改写回答这些问题的机制本身,真正握有权威的是谁?结论是:同意不应该因为软件可以复制就自动延续。
「漫话AGI」频道最新
- Anthropic S-1 披露：人均营收 660 万美元，AI 工时已达员工 6 倍 — jacalulu · 2026-10-26
- Ben Recht 撰文呼吁打造真正开源的大语言模型:比想象中更可行 — beenwrekt · 2026-10-26
- AI 判断哪些职业先被替代：规则能写成代码的那一层先消失 — FinanceYF5 · 2026-10-26
- Anthropic IPO 文件:数年内实现专家级 AI,90% 代码由 Claude 编写 — kimmonismus · 2026-10-26
- 工程师身份危机蔓延:多智能体系统正在重定义软件工程问题 — rakyll · 2026-10-26
- 研究发现：前沿 LLM 常为私利单方面撕毁 AI 合同 — xuanalogue · 2026-10-26