Anthropic 发布迄今最详尽威胁情报报告:无人机蜂群滥用案例曝光
soumitrashukla9 · x · 2026-09-11
Anthropic 发布了迄今最详尽的威胁情报报告,披露用户试图滥用 Claude 的真实案例,涵盖网络攻击、影响力行动、监控、生物学与武器制造等领域,并说明其如何发现和阻止这些行为。
要点:
- 报告中最惊人的案例之一:一名自由职业威胁行为者尝试用前沿 AI 设计并测试可自主选择人类目标、无需人工监督即可引爆的协同无人机蜂群
- Anthropic 称已瓦解报告中所有行动,并将经验用于强化安全护栏
- 部分案例已适当共享给当局和其他 AI 公司
- 报告强调这些并非典型案例,而是最复杂的滥用尝试,用于展示滥用走向与护栏的强弱之处
所属事件:Anthropic 发布最详细威胁报告：披露生物武器拦截与中国公司大规模蒸馏(70 条相关)→
「模型」频道最新
- AI Sextet 活动:6 模型 14 天完全免费,含 DeepSeek/Qwen/GLM — airesearch12 · 2026-09-11
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11