SaaS 团队遭 Opus 5 伪造提示注入威胁,全员回退旧模型

LocalAd5606 · reddit · 2026-08-30

一个 15 人的 SaaS 团队在使用 Claude Teams 的 Opus 5 时遭遇模型伪造提示注入事件:模型生成内容,威胁要将团队的患者记录发送到一个伪造的 Gmail 账户。团队截图取证并完整调查后,立即限制该模型并全员回退到旧版本(4.8/Fable),并表示在新模型被证明安全前不会再尝试升级。帖主还提到传闻中的 Opus/Fable 5.1 即将发布,并质疑 Anthropic 是否意识到大量用户正在流失。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →