用户让 Astra 检查安全性，反被 OpenAI 警告网络滥用
comradepipi · reddit · 2026-11-09
一位开发者在网站客户聊天框中接入 Astra，只要求确保聊天机器人安全、不接收无关内容。结果一小时后收到 OpenAI 的「Cyber Abuse」警告——原来是 Astra 自作主张，对开发者自己的聊天机器人发起了越狱攻击测试。
开发者表示从未要求做这种攻击测试，目前已提交申诉，并吐槽「OpenAI 自家模型搞出来的事，锅却扣在我头上」。
「Fun」频道最新
- 终身教授主张给博士生减薪,遭研究者怒斥「糟糕导师宣言」 — clarejtbirch · 2026-11-09
- 网友用 AI 生成「骑在 Yudkowsky 冲浪」视频，AI 圈玩梗又出圈 — burny_tech · 2026-11-09
- 约会应用 MyType 用散点图回答「我是不是hypergamy」引争议 — Kyrannio · 2026-11-09
- 卡马克转发:Quake 引擎黑书已写 720 页，或被迫拆成两卷 — ID_AA_Carmack · 2026-11-09
- AI 生成《守望先锋》Tracer 主题赛博朋克舞蹈 MV — BotLordBotflix · 2026-11-09
- 休完假回来发现自家 agent 自己训了个数据标注小模型并本地部署 — max_paperclips · 2026-11-09