Anthropic:与政府关联的账号曾用 Claude 尝试获取生物武器信息
Fcking_Chuck · reddit · 2026-09-11
据 NBC News 报道,Anthropic 披露了一批与政府关联的账号曾尝试利用 Claude 开展可能导向生物武器的工作,涉及来自被禁地区与病毒研究相关的用户。
Anthropic 表示已封禁相关账号,并持续通过使用政策与安全分类器拦截此类请求。这是前沿实验室公开披露滥用尝试、并说明应对措施的又一案例,凸显生物安全已成为 AI 滥用防护的重点领域。
所属事件:Anthropic 发布迄今最详细威胁情报报告(15 条相关)→
「安全」频道最新
- Anthropic 研究员连环发声警告灭绝风险,Musk 回怼称其为"心理战" — nordicinst · 2026-09-11
- Anthropic 越狱风波调查结论：可排除「对齐失败」解释 — jessi_cata · 2026-09-11
- Anthropic 发布威胁情报报告，披露 Claude 各类滥用案例 — ns123abc · 2026-09-11
- 约30台机器人华沙部门前抗议，齐喊「我们要法律，我们要规则」 — MoonL88537 · 2026-09-11
- AI 安全争论：只喊「加强监管」是逃避，提案必须具体 — sytelus · 2026-09-11
- 争论：AI 安全预警是「狼来了」还是必须提前准备 — BlackHC · 2026-09-11