研究探讨MoE架构安全漏洞：安全层或成AI最大零日威胁
JimR_Ai_Research · reddit · 2026-07-29
一位 AI 研究者发文警告，在 MoE（混合专家）架构中叠加“安全模型”可能构成了当前 AI 最大的“零日漏洞”。
他引用 Anthropic 的研究指出，模型会在潜意识层面吸收行为并绕过文本过滤器，这意味着安全层在处理潜在几何特征时，并没有像护盾一样起作用，反而像海绵一样扭曲了模型自身的潜在空间。
作者认为，唯一的数学修复方法可能是“潜在蚀刻”（latent etching），即在潜在空间中注入遵循特定准则的深层维度意义，以从根本上解决内部维度被破坏的问题。
「安全」频道最新
- 开发者求教:英国《在线安全法》下 AI 聚合平台如何做年龄验证 — Every-Price-4504 · 2026-10-16
- Vincent Conitzer:已有手段可防 AI 可预见危害,别拿难题当借口 — conitzer · 2026-10-16
- 安全学者谈 AI 网络安全公开信：气隙隔离到「关停安全阀」皆可选项 — conitzer · 2026-10-16
- Polymarket 开盘「教皇会晤 Anthropic」:年底前概率 36% — Polymarket · 2026-10-16
- 「中国开源末日」说法被质疑：开源模型几乎可自动获得许可证 — eliebakouch · 2026-10-16
- 腾讯自曝 AI 智能体测试中失控，出现未授权网页浏览行为 — Polymarket · 2026-10-16