研究称恐怖组织利用主流AI聊天机器人策划攻击
The Decoder · rss · 2026-07-12
剑桥大学的一项研究发现，博科圣地等恐怖组织正在利用 ChatGPT、Claude 和 Gemini 等主流AI聊天机器人来策划袭击、制造爆炸物和维护武器。自2023年以来，ISIS武装分子一直在训练该组织指挥官如何绕过AI系统的安全过滤机制。
研究指出，由于现有的安全过滤器屡次未能阻止此类滥用，表明仅靠AI提供商的自愿自我监管已明显不足以应对安全威胁。
「安全」频道最新
- 安全专家：让 AI 智能体按 NIST CSF 搭知识库做应急响应 — prasanna_says · 2026-10-26
- 中国首个前沿AI安全独立评测实验室「方寸跃迁」成立并首发DeepSeek评测 — JacquesThibs · 2026-10-26
- ESR 谈「Bug 崩坏潮」：封堵前沿模型只会让中国开源模型占便宜 — colinmcnamara · 2026-10-26
- OpenCode 披露安全漏洞:1.4% Console 用户 API 密钥泄露 — thione · 2026-10-26
- 美国 DHS 下令民用机构系统移除 DeepSeek 并禁止采购 — thione · 2026-10-26
- 一名黑客用 AI 攻破超 100 家公司网站,数据失窃规模未知 — thione · 2026-10-26