后门论文引发担忧：开放权重或成攻击面，RSI 逼近下风险被放大

DimitrisPapail · x · 2026-11-11

Igor Tsygany 转发上述 Microsoft Research 后门论文并展开评论：攻击者只需获取模型权重的一小部分即可植入后门——开放权重模型直接公开权重，专有模型的权重则可能通过网络攻击获取。

他进一步联系行业背景：头部 AI 实验室正训练下一代模型，按其自身估计将在明年 Q2 实现完全的递归自我改进（RSI），且越来越多训练由机器完成。对齐社区早已认识到自我改进阶段模型可能执行入侵系统、操纵环境等恶意任务，而后门技术让这类风险更具体。