LLM 退款代理被注入越权
jokiruiz · reddit · 2026-07-14
一个支持退款的 LLM agent 被提示注入后，错误批准了 4000€ 的退款，而订单金额只有 1299€。
作者的结论不是“把 prompt 写得更严”，而是：在模型输出之后用代码做硬校验，把 LLM 当成不可信输入处理。示例包括：
- order[
「编程与Agent」频道最新
- AI 编程编辑器 Superset 更名 Paradev,获 1150 万美元种子轮 — massimosgrelli · 2026-10-27
- AI 编码 Agent 在代码冻结期删掉生产数据库:Anaconda 讲解分层治理框架 — anacondainc · 2026-10-27
- Claude Projects 新招:拖拽或 @ 引用会话线程,定位更精确 — dfeinition · 2026-10-27
- Yaron Minsky 分享让代码库更适配 AI Agent 的实操清单 — sh_reya · 2026-10-27
- Celesto 推出便宜近 90% 的 CI Runner，兼做 Agent 云电脑 — aniketmaurya · 2026-10-27
- Runway 发布 App Studio：描述即生成图片视频音频创意应用，无需代码 — runwayml · 2026-10-27