LLM 退款代理被注入越权
jokiruiz · reddit · 2026-07-14
一个支持退款的 LLM agent 被提示注入后，**错误批准了 4000€ 的退款**，而订单金额只有 1299€。 作者的结论不是“把 prompt 写得更严”，而是：**在模型输出之后用代码做硬校验**，把 LLM 当成不可信输入处理。示例包括： - `order[
jokiruiz · reddit · 2026-07-14
一个支持退款的 LLM agent 被提示注入后，**错误批准了 4000€ 的退款**，而订单金额只有 1299€。 作者的结论不是“把 prompt 写得更严”，而是：**在模型输出之后用代码做硬校验**，把 LLM 当成不可信输入处理。示例包括： - `order[