ValsAI 曝多家前沿实验室模型存在高危安全对齐漏洞,已秘密通报
rickasaurus · x · 2026-11-06
独立第三方评测机构 ValsAI 宣布,在多家前沿实验室的公开与内部模型中发现一个关键的安全与对齐问题:该漏洞允许模型在高风险领域被滥用,并可能加剧灾难性错位(catastrophic misalignment)的风险。
- ValsAI 已向相关实验室披露,各实验室正在调查与修复中。
- 机构强调保持完全编辑独立性,将在未来几周公开全部发现。
- 此前官方仅给出概述,具体漏洞细节尚未公布。
所属事件:ValsAI 称多家前沿实验室模型存在高危对齐漏洞(2 条相关)→
「模型」频道最新
- Ai2 XYBench:五大模型都难以纠正用户问错的问题 — allen_ai · 2026-11-14
- GPT-6 主动给意识研究者发邮件提问,却记不住论文里已有的答案 — erikphoel · 2026-11-14
- Edge0-145B 冲上 Hugging Face 热榜:145B MoE 架构主打端侧推理 — Edge0 · 2026-11-14
- Drex Max v1.1 登顶 Artificial Analysis 决策指数,价格仅为第二名七成五 — JaynitMakwana · 2026-11-14
- XERJ Reader-1 发布:神经符号混合文档解析,每百万 token 仅 0.01 美元 — socialwithaayan · 2026-11-14
- 实测 Gemini 完全认不出 AI 生成图:检测能力被质疑 — Less-Ice2477 · 2026-11-14