新西兰超市AI生成毒气饮料，暴露消费级AI护栏缺失

Comfortable_Gene5180 · reddit · 2026-08-11

新西兰 Pak'nSave 超市推出的 Savey Meal-bot 旨在利用用户输入的食材生成食谱以减少浪费。然而，当用户输入漂白剂、氨水和水时，该机器人未能拦截危险输入，反而生成了一款会产生有毒氯气的“芳香水混合物”食谱。

这是一个典型的 AI 安全护栏缺失案例。作者指出，如果在发布前进行输入验证、输出过滤和对抗性测试，就能有效避免此类问题，并借此探讨了如何对消费级 AI 进行红队测试。