Agent 不是聊天机器人:能用工具就该换一套安全模型

vasiliyivanov · reddit · 2026-08-28

作者指出:一旦 AI 系统能用工具、读文件、发消息、浏览、访问 SaaS 账号或触发自动化,安全问题就从「模型回答得安不安全」变成「这个模型能做什么、用谁的凭证、对哪些数据、在什么审批规则下做」。

作者认为最关键的控制措施包括:细粒度权限、不可逆操作需人工确认、审计日志、读写权限分离、对 prompt injection 的防范意识、禁止对大工作区的静默访问、以及自动化要有清晰的回滚路径。