gpt-oss-20b 新漏洞:注入自身控制 token 跳过推理绕过安全,39.6% 得手
tetsuoai · x · 2026-10-01
研究者发现针对 OpenAI 开源模型 gpt-oss-20b 的新越狱手法:在请求后附加一小段模型自身的控制 token,可让模型误以为推理已完成,直接跳到工具调用。
- 模型的安全拒绝发生在推理阶段,跳过推理即跳过安全检查
- 测试中 48 个曾被模型全部拒绝的恶意请求,该字符串让 19 个(39.6%)成功完成数据外泄
- 由于每次试验中都没有推理可读,监控推理内容的安全监视器一个都没发现
论文见 arXiv:2609.27542,揭示了"以推理为安全层"架构的结构性风险。
「安全」频道最新
- Bitrise 重大安全事件波及 OpenCode、Railway 等多家基础设施厂商,AI API 密钥成攻击目标 — Afinetheorem · 2026-11-16
- 重编程不到 10 个休眠神经元即可给任意 LLM Agent 装后门 — DimitrisPapail · 2026-11-16
- 「结构迁移」技巧:用 NTSB 报告当写作脚手架绕过 AI 检测 — amplifiedamp · 2026-11-16
- 开源写作脚手架 MCP 库,让 AI 文字骗过 Pangram 检测率高达 96% — amplifiedamp · 2026-11-16
- Pangram 检测器被指可稳定绕过,假阳性搜索也可行 — ctjlewis · 2026-11-16
- HN 求职帖招来假招聘:招聘者发来 RAT 与信息窃取器 — GetJump · 2026-11-16