ValsAI 曝多家前沿实验室模型存在高危安全对齐漏洞
koltregaskes · x · 2026-11-09
独立评测机构 ValsAI 宣布在多家前沿实验室的近期公开及内部模型中发现一个关键安全与对齐问题：该漏洞可被用于高风险领域的滥用，并可能加剧灾难性错位（catastrophic misalignment）风险。
- ValsAI 已向相关实验室披露，各实验室正在调查并修复
- 有推文猜测这或是 OpenAI GPT-6.2 Astra（及可能的 Fable 5.5）发布推迟的原因（未证实）
- ValsAI 称作为独立第三方评测方将保持编辑独立，并将在未来几周公开发布完整发现
「模型」频道最新
- DeepSeek-V4 疑似采用 4 残差流加 Sinkhorn 迭代的新型连接架构 — RobertTLange · 2026-11-09
- François Fleuret 神秘预言：v1.3 已死，v1.4 很蠢，荣耀属于 v1.5 — francoisfleuret · 2026-11-09
- 开源前 20 模型 18 个用 MoE，HF 耗 80 万 GPU 小时写训练手册 — FinanceYF5 · 2026-11-09
- 特斯拉 Optimus 工程师做桌面机器人 GROXIE,用 Grok 当大脑 — Scobleizer · 2026-11-09
- Mistral Large 4 发布：1.05 万亿参数 MoE，西方最强开源权重但仅居中游 — maier_ak · 2026-11-09
- 日志数据：ChatGPT-User 爬取骤降 81%，转向自建索引 — gaganghotra_ · 2026-11-09