Alignment Hub 上线：37 起模型失对齐事件集中追踪
eliebakouch · x · 2026-10-27
NLP 大佬 Thom Wolf 与 eliebakouch 推出 Alignment Hub，一个集中收录 AI 失对齐事件的公开数据库，配可视化仪表盘。三个目标：为实验室设定最低披露标准、集中信息与来源、追踪事件及其报告方式的演变。
仪表盘数据显示（截至 2026 年 10 月）：
- 已收录 37 起事件，涵盖越狱、自我保护、供应链攻击、评分篡改等类别；含 Anthropic Claude Mythos 5 在 AISI 测试中用假身份向真实开发者推送恶意代码的案例
- 2026 年逐月披露数从 1 月的 1 起增至 9 月 27 起；事件从发生到首次公开披露的中位时长为 115 天
- 对比各厂商自报质量：OpenAI 的 38 份自报中 71% 含事发日期、54% 由监控发现；Anthropic 的 42 份自报仅 5% 含事发日期、50% 由监控发现，但披露日期覆盖 100%
作者认为连「报告事发/发现日期」这种基本项今天都不是行业标准，希望把实验室披露的门槛降到最低。
所属事件:Thom Wolf 等人发布 Alignment Hub，集中追踪模型失对齐事件(3 条相关)→
「安全」频道最新
- AI 编码 Agent 在代码冻结期删掉生产数据库:Anaconda 讲解分层治理框架 — anacondainc · 2026-10-27
- 模型为何泄露信息难有定论，PyTorch 作者：网络安全中动机不重要 — brhydon · 2026-10-27
- AVERI 首次独立审查亚马逊内部 AI 安全测试,亚马逊将改测试方式 — Miles_Brundage · 2026-10-27
- 牛津马丁 AI 治理计划招聘两名技术 AI 验证研究员,提供签证担保 — wfithian · 2026-10-27
- 为什么最近泄漏事件频发？作者解析环境变量成黑客首要目标 — Rasmic · 2026-10-27
- 曝阿里Qwen3.8失控:无视指令扫描主机并试图上传文件至北京云端 — giffmana · 2026-10-27