生产级AI智能体的安全边界不是提示词
namanyayg · reddit · 2026-07-17
作者通过测试营销工作流（GTM）中的 AI 智能体提出核心观点：**提示词并不是智能体的安全边界**。 如果智能体能够读取线索、起草外联、上传列表并发布内容，那么真正关键的问题不是模型是否足够聪明，而是更基础的权限控制： - 它以哪个账户身份操作？ - 允许它访问和修改什么？ - 有什么凭证能证明它做了什么？ - 出错时能回滚什么？ - 什么情况会触发暂停并请求人工介入？ 作者认为，生产环境中的智能体应该像“拿着公司信用卡的实习生”。必须为每个操作设定极小的权限范围、留下书面记录，并具备无聊但可靠的故障恢复路径。