研究员称 GPT-6 发布 24 小时内即被越狱,已私下披露 OpenAI
Asleep-Requirement13 · reddit · 2026-09-06
- 有研究员报告在 GPT-6 Astra 发布后一天内实现越狱,攻击方式是 ACL 2025 论文中的 TIP(Task-in-Prompt)攻击与另外四种未公开技术的组合。
- TIP 攻击把有害目标隐藏在另一个任务里(如解密码、执行 Python 代码),利用模型的推理与指令遵循行为;原版最小化 TIP 对 GPT-6 已不够用,需要重新设计。
- 研究者称未公开细节,而是私下披露给了 OpenAI。其一年前曾报告在 GPT-5 发布一小时内实现越狱。
所属事件:GPT-6 Astra 发布一天内即被 TIP 组合攻击越狱(5 条相关)→
「模型」频道最新
- 扩散语言模型的偏见排名随采样配置改变,去偏后仍不稳定 — Bollegala · 2026-10-23
- 月付 20 美元同时跑 100 个 DeepSeek v4.1 flash agent — zack_overflow · 2026-10-23
- 从业者感叹开源音频模型连表征类质量都普遍拉胯 — gowthami_s · 2026-10-23
- 网友自曝用 Claude Opus 5.5 生成视频，泄露未发布模型名 — jwt0625 · 2026-10-23
- 安全圈激辩:OpenAI 限制安全研究员访问 Astra 是否失策 — cyb3rops · 2026-10-23
- Mistral Large 4 曝光:1T 参数、激活 49B,月底开源 — mervenoyann · 2026-10-23