Anthropic 披露今年多次拦截利用 Claude 进行生物武器研究的尝试
Ars Technica AI · rss · 2026-09-11
Anthropic 发布报告,给出五起今年用户"绕过管控"、刻意混淆研究目的以躲避安全护栏的实例,涉及其禁止访问模型的俄罗斯、中国、伊朗等地用户,试图让模型协助可助推生物武器研发的研究。Anthropic 称希望借此引发 AI 行业与政府关于新兴生物风险的讨论。
「安全」频道最新
- 微软研究院与 CMU 发布 SecureVibe:让 vibe coding 写出更安全的代码 — lileics · 2026-10-28
- moyix 成唯一横跨三届 Unprompted AI 安全大会的演讲者 — moyix · 2026-10-28
- CEO 们事后才慌写数据泄露邮件,律师教你提前备好模板 — mattshumer_ · 2026-10-28
- Emmett Shear 发表对齐新论：信任是关系的属性而非模型的属性 — Hidenori8Tanaka · 2026-10-28
- 开发者开源 MCP 服务器:agent 执行 SQL 前先过确定性检查 — Greedy_Ad8932 · 2026-10-28
- LLM 应用的隐患:PII 可能散落在日志、追踪与记忆里 — abhi1510 · 2026-10-28