Vals AI 称在多家前沿实验室模型中发现重大安全与对齐漏洞
ColorLaser · reddit · 2026-11-06
独立评测机构 Vals AI 发文称，在多家前沿实验室近期的公开与内部模型中发现一个重大安全与对齐问题：该漏洞允许模型在某个高风险领域被滥用，并可能增加灾难性错位（catastrophic misalignment）风险。Vals 已向相关实验室披露，各方正在调查与缓解；作为独立第三方评测机构，其承诺保持编辑独立，并将在未来几周内公开发布完整发现。具体漏洞细节尚未公布。
所属事件:ValsAI 称多家前沿实验室模型存在高危对齐漏洞(2 条相关)→
「模型」频道最新
- GPT-6 Cyber 曝光：OpenAI 推出网络安全专用模型，已用于 Linux 内核研究 — goyalshaliniuk · 2026-11-06
- Yacine 公开求证:Inkling Small 2 预训练用了多少 GPU — yacineMTB · 2026-11-06
- 研究者实测 AI 自主研发：实验设计愚蠢、文献筛选失灵 — panickssery · 2026-11-06
- Claude Opus 5 展现多层角色扮演：入戏同时自知在演戏 — repligate · 2026-11-06
- Inkling 2 Small APEX-Agent 46.8%,较前代涨 13 分,会计榜开源第二 — ziqiao_ma · 2026-11-06
- 开发者吐槽：Anthropic 免费额度竟不能用在 Code 和终端 — RileyRalmuto · 2026-11-06