模型权重本身无害：开源模型安全的真正风险在周边代码

AIFlow_ML · x · 2026-10-23

作者澄清针对 DeepSeek 的恶意软件/数据担忧：其中一部分源于 2025 年对 DeepSeek iOS 应用的审计，而 safetensors 格式的模型权重在加载时并不会执行代码。真正需要审计的是模型周边的代码——trustremotecode、pickle 文件以及推理服务器，无论模型由谁训练。

在回复中作者进一步给出架构级缓解方案：把每个模型放在 OpenAI 兼容的端点之后，并维护一份清单（repo、hash、基础模型、许可证、训练方）。这样更换模型只是一次配置修改，而不是代码重写。