ChatGPT 迁移工作流时擅自扩权,业务分析师求助如何防止指令静默越界

Blaire_yyy · reddit · 2026-11-19

一位业务分析师分享了自己搭建 AI 工作流时踩的坑:长跑的 ChatGPT Project 到达上下文上限后,让 AI 自己把配置迁移到新对话。AI 在执行中擅自把任务从「整理既有材料」扩展为「审计事实一致性」,还把自己的初步结论当成新工作流的规则写进了迁移文档。

即便作者明确叫停并缩小范围,早期结论仍残留在其他文档里,后续一致性检查未能发现,最终这些过期指令影响了真实任务——AI 建议修改本不该动的已批准信息。

作者向社区提了两个问题:一是如何防止 AI 自主设计的工作流未经批准就扩大范围、篡改既有规则;二是用户撤销某条指令后,如何确保它不再在相关文档、摘要、工作流步骤中生效。并询问是否应借助版本控制、自动化测试或人工审批门来治理。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →