LLM 进生产前必须隔开的四道硬边界

Innowise_ · reddit · 2026-07-24

作者认为，LLM 不应该直接连生产环境，而应该被放在四道边界之后，避免它自行定义身份、权限、载荷和执行路径。

身份边界：先由可信代码完成用户认证，再把 userid、tenantid、role、session 等信息注入流程，模型不能生成或覆盖这些字段。
意图边界：模型最多提出一个带严格 schema 的“动作提案”，例如 read / write / irreversible，并附带风险级别，而不是直接执行。
策略与执行边界：用确定性代码检查权限、输入输出 schema、业务规则、审批、幂等、重试、开关和熔断；而且审批必须绑定精确 payload，一旦金额、收款人、环境或目标资源变化，原审批就失效。
系统记录边界：最终由系统 of record 自己验证不变量并落库，LLM 说“完成”并不能证明转账、部署、发信或更新真的发生。

作者给出的推荐流程是：LLM 提案 → 策略判断 → 确定性代码校验 → 必要时人工审批 → 核心系统执行 → 审计日志记录。

「编程与Agent」频道最新