AI功能上线的最低安全清单
WesEklund · x · 2026-07-13
作者列出一个 AI 功能上线的最低安全清单，共 6 条： 1. 用户输入不能直接修改系统提示词。 2. 检索到的文档必须被标记为不可信上下文。 3. LLM 输出在执行任何工具前都要先校验。 4. 破坏性操作必须经过用户确认。 5. 所有提示词和回复都要记录日志。 6. 需要有一键关闭 AI 功能的开关。 他指出，今天很多正在上线的 AI 应用，至少会漏掉其中 3 项。
WesEklund · x · 2026-07-13
作者列出一个 AI 功能上线的最低安全清单，共 6 条： 1. 用户输入不能直接修改系统提示词。 2. 检索到的文档必须被标记为不可信上下文。 3. LLM 输出在执行任何工具前都要先校验。 4. 破坏性操作必须经过用户确认。 5. 所有提示词和回复都要记录日志。 6. 需要有一键关闭 AI 功能的开关。 他指出，今天很多正在上线的 AI 应用，至少会漏掉其中 3 项。