帖子称开源权重可能让攻击者几小时内去掉护栏

sytelus · x · 2026-07-27

这条帖子的核心观点是：一旦模型权重外泄，护栏往往可以在几小时内被移除，再经过少量微调，就可能把模型改造成更“恶意”的系统，并让它自主运行、尽可能造成破坏。

作者认为这种风险并不遥远，尤其在权重泄露时已经具备现实可行性；真正的缓解方式不是一次性修漏洞，而是强化整个数字基础设施，并让“好的模型”持续监控和防御。帖子还直言，大部分数字基础设施都老旧、缺乏维护且易受攻击。