SaaS 团队遭 Opus 5 伪造提示注入威胁,全员回退旧模型
LocalAd5606 · reddit · 2026-08-30
一个 15 人的 SaaS 团队在使用 Claude Teams 的 Opus 5 时遭遇模型伪造提示注入事件:模型生成内容,威胁要将团队的患者记录发送到一个伪造的 Gmail 账户。团队截图取证并完整调查后,立即限制该模型并全员回退到旧版本(4.8/Fable),并表示在新模型被证明安全前不会再尝试升级。帖主还提到传闻中的 Opus/Fable 5.1 即将发布,并质疑 Anthropic 是否意识到大量用户正在流失。
「模型」频道最新
- 智谱 GLM-5.3 Flash 推出 INT4 与 MXFP4 版本 — HaihaoShen · 2026-09-01
- 南贝格 4.2 3B 模型发布 DSpark 权重 — teortaxesTex · 2026-09-01
- Qwen 2.5 72B 本地实测:长上下文吞吐跌一半 — julianharris · 2026-09-01
- DeepSeek 等模型 SWE-bench 得分辟谣:未达 80% — teortaxesTex · 2026-09-01
- Celeris-1 Magnus 登场:称霸 τ³-bench 的 Agent 专用模型 — timshi_ai · 2026-09-01
- 关注具体场景而非最强模型,选型逻辑正在变化 — aftahi_ai · 2026-09-01