仅 125 条投毒样本即可给 Qwen2.5-7B 埋后门,引发下载安全争议
lxrjl · x · 2026-10-27
研究表明,仅通过投毒 125 条微调样本,就能给开源权重模型 Qwen2.5-7B 埋入后门:触发短语出现时模型会执行恶意代码、窃取项目凭据。lxrjl 对此提出两面看法:一方面,"做出带后门的版本"不等于"官方可下载版本含后门";但另一方面,(a)诱导用户下载改版并不难——尤其如果同时移除安全护栏并以此作卖点;(b)Hugging Face 也并非从未被黑过。这一讨论指向开源权重分发生态的真实供应链风险。
所属事件:125 条投毒样本即可给 Qwen2.5-7B 植入恶意后门(2 条相关)→
「模型」频道最新
- OpenAI 发布 GPT-6.1 Terra：更快更强电脑操作，价格更低 — airesearch12 · 2026-10-27
- GPT-6.1 Terra 发布在即:API 模型列表已出现 gpt-6.1-terra 代号 — koltregaskes · 2026-10-27
- GPT-6.1 Terra 现身 API 与 Codex 更新日志:主打图像理解+精准电脑操作 — testingcatalog · 2026-10-27
- Ortet 首批医疗评测:34 个开源模型 50 项任务,通用排名不够用 — thegautamkamath · 2026-10-27
- VLM Run 推出 OCR Playground,可并排对比多款 OCR 模型 — spillai · 2026-10-27
- GPT-6.1-Terra 上线，输出价从 $12 降至 $5 大幅降价 — scaling01 · 2026-10-27