开源安全分类器误杀过半合法生物研究
kenbwork · x · 2026-08-07
一项针对开源 AI 安全分类器的实测评估显示，现有模型在区分危险生物研究与合法科学探索方面表现不佳。测试涵盖了 73 个生物安全任务，表现最好的 Llama Guard 4 虽然能拦截 76% 的红队威胁，但也错误阻断了高达 55% 的合法研究请求，暴露出严重的安全护栏误判问题。
所属事件:实测开源AI安全分类器：难拦生物武器且误杀合法研究(2 条相关)→
「模型」频道最新
- 曝 OpenAI 暗测内部神秘模型 Aeon：已现身 Codex 桌面版用量面板 — cedric_chee · 2026-10-16
- 博主实测：argon 日常全面能打，但重度编码仍略逊 Claude — iruletheworldmo · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版，主打本地部署 — nvidia · 2026-10-16
- RoboVista 机器人理解基准发布:Gemini-4 Argon 81.9% 登顶 — berkeley_ai · 2026-10-16
- 开发者实测:决策模型 jev 质量跑赢 GPT-6-Luna — genmon · 2026-10-16
- Reddit 用户求证 Google AI Pro 订阅中 Argon 4 用量上限 — Consistent-Text-2662 · 2026-10-16