Hugging Face 平台现存数千个去安全护栏模型，或可被用于网络攻击
ShakeelHashim · x · 2026-11-12
Transformer 报道，Hugging Face 上有大量可能被用于网络攻击的开源模型，而该平台刚被 Nvidia 收购，内容政策执行问题更加凸显。
- 仅 7 月，平台上被标记为 "abliterated"、uncensored 或 heretic（即移除安全过滤与护栏）的模型就超过 6,500 个，其中许多至今仍在线
- 平台曾下架一个明确以网络攻击为卖点的模型，但更多类似模型仍然存在
- Hugging Face 内容政策明确禁止设计用于入侵系统、未授权访问或生成恶意代码的模型，但「去护栏」不等于「为攻击而设计」，界限如何划定成为难题
- CrowdStrike CEO George Kurtz 在巴塞罗那会议上警告：开放权重模型已接近前沿模型能力，任何意图的人都能拿到无护栏的前沿能力；他认为 abliterated 模型「确实有问题」
- 萨里大学网络安全专家 Alan Woodward 称此类平台是「坏人的天然磁铁」
所属事件:英伟达收购节骨眼,Hugging Face 被曝托管大量危险模型(2 条相关)→
「公司和人」频道最新
- Standard Bots CEO 自称自闭,欲打造美国最大机器人公司对抗中国 — Rewkang · 2026-11-13
- 网友观点：模型领先、限制对手、现金充裕，Anthropic 稳赢？ — menhguin · 2026-11-13
- 16 年老兵绘 PM 晋升阶梯：CPO 年薪最高 786 万美元 — aakashgupta · 2026-11-13
- DeepLearning.AI 推出语音 AI Agent 课程，教三种接入模式 — DeepLearningAI · 2026-11-13
- 黄仁勋辞职传闻引爆讨论：NVIDIA 游戏显卡何去何从 — wen_ragnarok · 2026-11-12
- 为什么创始人离开公司就会死：冒险与承受痛苦是创始人专利 — Dan_Jeffries1 · 2026-11-12