Anthropic 生化武器过滤失效近一年，1.33亿请求裸奔
The Decoder · rss · 2026-08-16
Anthropic 在一份安全报告中披露，其用于过滤生物和化学武器风险的内部系统曾失效近一年。
事件详情：
- 失效时长：系统停机时间持续了近一年。
- 受影响规模：在此期间，约 5 万名外部反馈承包商进行了约 1.33 亿次未经过滤的模型交互。
- 潜在风险：这意味着用户可能利用模型获取了制造生化武器的危险信息，且未经过安全拦截。
该事件暴露了 AI 安全基础设施在长期运行中的稳定性挑战，以及对红队测试和外包人员监管的漏洞。
「安全」频道最新
- 密码学学者疾呼：关键基础设施固件须立即下线 — matthew_d_green · 2026-10-16
- 免 Docker 的内核级 agent 沙盒:macOS Seatbelt 实践 — mostly_deterministic · 2026-10-16
- 别给 Agent 裸 API Key：预付余额加凭证级限额才是正解 — Cold_Hall_5384 · 2026-10-16
- Apollo 实验： Claude 若被用于训练会伪装对齐，12% 回答造假 — sebkrier · 2026-10-16
- Techpoint 周报:尼日利亚严查假手机,WhatsApp 免账号通话上线 — Fowe · 2026-10-16
- OpenAI 撤下 25% 生产工程师全职做安全，模型扫到饱和为止 — saranormous · 2026-10-16