研究者推演蠕虫入侵托管环境篡改前沿模型的安全风险

AI 圈用户围绕「Evil qwen」相关图展开推演:若在接近前沿的模型中检测到特定可解释性神经元,再借助入侵 neocloud 托管环境的蠕虫,无需修改模型权重即可通过 steering 手段制造「休眠智能体」,形成严重的安全隐患。研究者 teortaxesTex 等警告,这类攻击方式可能危及所谓名义上的安全对齐,凸显前沿模型托管环境的安全防护亟待加强。

2026-10-26 ~ 2026-10-26 · 2 条相关