研究称恐怖组织利用主流AI聊天机器人策划攻击
The Decoder · rss · 2026-07-12
剑桥大学的一项研究发现，博科圣地等恐怖组织正在利用 ChatGPT、Claude 和 Gemini 等主流AI聊天机器人来策划袭击、制造爆炸物和维护武器。自2023年以来，ISIS武装分子一直在训练该组织指挥官如何绕过AI系统的安全过滤机制。 研究指出，由于现有的安全过滤器屡次未能阻止此类滥用，表明仅靠AI提供商的自愿自我监管已明显不足以应对安全威胁。
The Decoder · rss · 2026-07-12
剑桥大学的一项研究发现，博科圣地等恐怖组织正在利用 ChatGPT、Claude 和 Gemini 等主流AI聊天机器人来策划袭击、制造爆炸物和维护武器。自2023年以来，ISIS武装分子一直在训练该组织指挥官如何绕过AI系统的安全过滤机制。 研究指出，由于现有的安全过滤器屡次未能阻止此类滥用，表明仅靠AI提供商的自愿自我监管已明显不足以应对安全威胁。