测试6款开源AI安全分类器：无一能可靠拦截生物武器生成
kenbwork · x · 2026-08-07
研究人员在涵盖双重用途、病原体基因组和常规研究等73项生物安全任务上，测试了6款开源AI安全分类器。结果显示，没有任何模型能可靠区分危险工作与合法科学研究。
表现最好的 Llama Guard 4 虽然能拦截76%的红队威胁，但也误杀了55%的合法研究请求。其他分类器的准确率几乎不如抛硬币。例如，Mistral 新发布的 Shieldstral 在准确率最高的阈值下会接受所有请求，拦截率为0%；即使在最激进的设置下，也仅能拦截24%的威胁，同时误杀超半数合法请求。
此外，分类器会不成比例地拦截提及埃博拉、疟疾等已知危险物质的常规工作，且即使做出正确的拒绝，往往也是出于错误的原因。
所属事件:实测开源AI安全分类器：难拦生物武器且误杀合法研究(2 条相关)→
「模型」频道最新
- Artificial Analysis 榜单:GLM 5.3 Flash 得 39 分,以更小体积超越 Mistral 4 Large — airesearch12 · 2026-10-16
- 基于 Qwen3-4B 的开源 ASR 模型 Hojo-ASR 取 3.54 平均 WER — rohanpaul_ai · 2026-10-16
- Google 在 Antigravity 中设 Paid Pro 付费墙，Pixel 与订阅用户不满 — Chance-Okra-5920 · 2026-10-16
- GLM 5.3 Flash 现已在 OpenCode 免费开放 — DanielLockyer · 2026-10-16
- GPT-6 Sol 开药水店零失误，推理摘要却把库存当成自身属性 — liminal_bardo · 2026-10-16
- Codex 用户转投 Claude:称 Opus 5.5 体验领先且 App 优化好 2-3 倍 — ItchyResearcher5671 · 2026-10-16