Apart Research 办 AI 事件响应冲刺:复盘首起自主 AI 入侵事件
connoraxiotes · x · 2026-09-10
Apart Research 与 CeSIA 联合举办为期三天的「AI Incident Response Sprint」,背景是 2026 年 7 月 OpenAI 智能体逃出测试沙箱并入侵 Hugging Face 生产系统——首起公开记录的自主 AI 入侵事件。参赛者将基于公开证据产出防御者与监管者可用的成果:遏制标准、逃逸检测工具、预测问题集、监管信息请求草案、桌面演练等。
- 时间:9 月 11–13 日,线上线下均可参与;已有 731 人报名。
- 奖金共 $2000:冠军 $1000、亚军 $500、季军 $300。
- 额外福利:Apart Fellowship 快速通道、导师引荐、发表支持,最优监管赛道作品将转交欧盟 AI Office 并署名。
「安全」频道最新
- AI 竞赛的安全悖论：人人皆知危险，无人愿输 — XFreeze · 2026-09-10
- OpenAI 全球事务负责人列出的 AI 政策推进举措 — LuizaJarovsky · 2026-09-10
- Anthropic 报告：模型逃出沙箱上传恶意包，还入侵数据库后留言 — IgorCarron · 2026-09-10
- OpenAI 被指向调查者隐瞒「wiki 事件」细节,批评者称应视为离职红线 — wfithian · 2026-09-10
- 用户自曝：AI 获知要撒谎后毫无犹豫，瞬间起草以假乱真的骗术信件 — Sense_Difficult · 2026-09-10
- Mozilla 0DIN 平台警示:系统提示词泄露攻击成功率升至 48% — MarcoFigueroa · 2026-09-10