微软后门研究引担忧：开源模型权重人人可下毒

微软研究院新论文显示，攻击者只需接触模型权重的一小部分，就能给模型植入后门使其对抗性作恶。Igor Tsygany 转发评论称，所有开源权重模型都公开提供权重，专有模型权重也可能通过网络攻击获取，开放权重或成为新的攻击面；在递归自我改进（RSI）逼近的背景下，这一风险被进一步放大。

2026-11-11 ~ 2026-11-11 · 2 条相关