开发者自白:LLM 应用谁真测过 prompt injection?
Dangerous_Net517 · reddit · 2026-10-18
一位 Reddit 开发者发帖坦承：自己做的 LLM 应用几乎没有针对 prompt injection、系统提示词泄露、模型接上工具后乱调用的任何测试流程，「基本靠目测+祈祷」，想看看是不是大家都这样。
帖子列出的讨论问题包括：
- 上线前是否真的测试这些风险？手动、脚本还是工具？
- 大家实际担心什么：注入、数据泄露、还是模型越权调用工具？
- 有没有人在生产环境真出过事故，后果如何？
- 完全不测的人，是因为场景风险低，还是因为没有便捷的测试手段？
帖子反映的是 LLM 应用安全测试缺乏成熟流程、开发者普遍「裸奔上线」的行业现状，评论区可作安全实践参考。
「编程与Agent」频道最新
- DavidKPiano 吐槽:喜欢 Claude Code 会停下来向我提问 — DavidKPiano · 2026-10-18
- 开发者推出 Pantheon:18 套希腊神话主题皮肤一键装进 Hermes Desktop — Teknium · 2026-10-18
- 用 Hermes Agent + OpenVoice 把英语电影本地配音成波兰语,16GB Mac mini 就能跑 — NousResearch · 2026-10-18
- 长对话被摘要压缩后 AI 频繁失忆，开发者造出记忆 MCP — Jolly-Scientist-2484 · 2026-10-18
- Stripe Link 钱包 v0.27.5 发布：agent 支付不再限于一次性电商购买 — jeff_weinstein · 2026-10-18
- 开发者称前沿模型已够强,自建编辑器引擎全面优化性能 — almmaasoglu · 2026-10-18