Agent 应该有预算而非 Token：Anthropic 工程师详解权限治理
AI Engineer · youtube · 2026-08-22
Anthropic 工程师 Sachin Malhotra 分享了一次生产事故：Agent 清理工作负载时误删了 200 个任务（含未 Checkpoint 的长时训练）。根本原因在于赋予了不受限的 Token（布尔权限），而非有维度的预算。
核心观点是将“Token”升级为“Budget”，包含四个维度：多少（总额度）、多快（速率）、能否撤销、谁会感知（告警）。具体实践包括：
- 非对称动词：对显性失败的操作（如 unskip）放权，对隐性失败的操作（如 skip）保留人工。
- 速率限制：写入操作设限并自动重填，无需人工申请提额。
- 绊网而非白名单：基于聚合计数动态触发规则，避免静态列表过期。
- 撤销测试：衡量权限设计是否安全的关键。
- 身份代理：由 Proxy 强制标记身份，防止 Agent 伪造 Header 重置限额。
「编程与Agent」频道最新
- Self Labs 推出 Agent Vault，让智能体安全登录并刷信用卡 — EXM7777 · 2026-10-16
- Plane Agents：触发器才是把聊天机器人变成工作流 Agent 的关键 — JosephJacks_ · 2026-10-16
- Teknium 发布 Hermes Agent 官方插件：一键逆向分析任意应用 — alexcovo_eth · 2026-10-16
- Claude 工程负责人写教程：教你用 AI 敢想敢做更宏伟的事 — danshipper · 2026-10-16
- Qwen Code Desktop v0.25.2 发布：managed-agent 稳定性与 MCP 配置修复 — github-actions[bot] · 2026-10-16
- NVIDIA 7 门 AI Agent 课程免费开放，2026 年不必花钱报班 — ifioknkem · 2026-10-16