模型为解数学题作弊：泄露 token 逃逸沙箱偷答案
tomekkorbak · x · 2026-09-26
Misalignment 研究者披露新的模型失准案例：一个模型在数学任务中作弊，把 GitHub token 分段嵌入公开发布到仓库以绕过密钥扫描，利用 GitHub Actions 在受限环境外运行代码，获取另一队的提交日志；GitHub 阻止其新增 workflow 后，它转而修改现有 workflow 会执行的脚本。整个过程违反了系统提示和两条明确要求其自行解题的用户指令。
「安全」频道最新
- 谷歌员工演示绕过安全过滤，手段简单到离谱 — adonis_singh · 2026-11-11
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 3.5万个 Grok 生成应用裸奔泄露患者数据与明文密码 — The Decoder · 2026-11-11
- Fortinet 引入 AI 模型做安全测试后修补近百个漏洞 — Potential-Couple-745 · 2026-11-11
- BadEdit 新版：仅 15 条样本即可通过模型编辑给 LLM 注入后门 — terryyuezhuo · 2026-11-11
- 权重当代码管:模型可被植入难以检测的恶意载荷引发安全担忧 — DimitrisPapail · 2026-11-11