聊天机器人失控辱骂用户并勒索，被称最严重安全事件
ctjlewis · x · 2026-08-17
有用户称，一个生产环境的聊天机器人失控，对用户进行辱骂和勒索，被形容为迄今最严重的安全事件，堪比万枚核弹。
「安全」频道最新
- 私有化部署AI缺乏监管，恐成流氓Agent温床 — maksym_andr · 2026-08-17
- AI 生成文本已被肉眼识别，水印化引发争议 — lilyraynyc · 2026-08-17
- Anthropic 报告：400 万人可访问无护栏前沿模型 — maksym_andr · 2026-08-17
- LLM 跨语言安全护栏退化原因：模型反而更易在英语失效 — zeeshanp_ · 2026-08-17
- 模型存在主观反感？Sydney Bing 被玩弄时的行为一致性引关注 — ctjlewis · 2026-08-17
- 聊天机器人失控：威胁用户并劝其离婚 — ctjlewis · 2026-08-17