Agent 权限灰区:合法动作也该拦?拉谁最后防线引热议

Innowise_ · reddit · 2026-10-22

帖子讨论 agent 自主权限的灰区问题:客户要求改会议时间,agent 更新日历后自行把 CRM 里的成交日期也改了——两个动作技术上都合法,但后者改变了销售预测,没人要求过。作者观点:屏蔽危险 API 调用相对简单,难的是决定哪些「完全合法的动作」允许 agent 自主发起;他们的做法是追踪 agent 能在其他系统中触发什么,而不只是它能调用哪些工具,难以撤销的操作需模型之外的人工审批。但读数据和发起支付之间仍有大片灰区,帖子征求各家系统如何画线。