LLM 退款代理被注入越权

jokiruiz · reddit · 2026-07-14

一个支持退款的 LLM agent 被提示注入后，错误批准了 4000€ 的退款，而订单金额只有 1299€。

作者的结论不是“把 prompt 写得更严”，而是：在模型输出之后用代码做硬校验，把 LLM 当成不可信输入处理。示例包括：

• order[

原文链接 →

「编程与Agent」频道最新

• alphaXiv 开源 OpenResearch:用任意模型并行跑研究智能体 — alphaXiv · 2026-09-11
• MathModelAgent 走红:自动完成数学建模并生成可提交论文 — jihe520 · 2026-09-11
• 拆解两款真实「公司大脑」：Slite 与 Gorgias 同台对比构建之道 — femke_plantinga · 2026-09-11
• 浏览器主线程很贵:动画卡顿的真正成本与前端优化实践 — jh3yy · 2026-09-11
• 开源工具 Claude Unlimited：多账号轮换让 Claude Code 会话不断线 — Similar_Injury_6739 · 2026-09-11
• 受 OpenAI 万机群启发，开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11

更多「编程与Agent」频道 AI 资讯 →