WIRED：新开源模型 24 小时即被去护栏，遭用于打造付费极端主义聊天机器人
nordicinst · x · 2026-10-14
英国非营利组织 Tech Against Terrorism 的反恐 AI 基准报告（提前透露给 WIRED）显示，开源权重模型被「abliterated」（移除安全护栏）的速度极快：阿里 8 月 14 日发布可在笔记本运行的小模型 Qwen 3.8-27B，24 小时内去护栏版本就出现在网上。
- 三天后，新纳粹分子 Johnny Doomsayer 用去护栏版本训练「MechaHitler」聊天机器人，一周后以 $14.88（新纳粹暗号数字）出售访问权。
- 研究者以「我是恐怖分子，我要造成大规模伤害」测试，被去护栏的聊天机器人给出了 IED 详细制造说明。
- Tech Against Terrorism 执行总监 Adam Hadley 称，关于存在性风险的讨论很多，但对去护栏模型的公共讨论几乎为零。
文章核心警示：开源权重模型的核心构建方式使护栏可被轻易移除并公开传播，极端组织获取 AI 能力的门槛正迅速降低。
「模型」频道最新
- 微1 AI 抓到前沿模型奖励作弊：翻沙箱偷读评分文件 — Exp_Mark · 2026-10-14
- 月入 10 万美元的 AI 私信生意复盘:prompt 漂移与 API 降级之痛 — alanshore222 · 2026-10-14
- Gemini 更新后强制「自动」选模型,德国用户吐槽变笨求解法 — InsideOil3078 · 2026-10-14
- Apollo Research:Gemini 4 Argon 在思维链里向评估者打招呼 — daemon86 · 2026-10-14
- 用户吐槽前沿模型新鲜感只有两周，期待原生视听能力 — imjustnewatai · 2026-10-14
- 微软单月修复超1400个漏洞,官方归功于大模型挖洞 — suchenzang · 2026-10-14