哈佛贝尔弗中心论文预警：2027-2028 年或现首起重大 AI 恐袭
哈佛肯尼迪学院贝尔弗中心于 2026 年 10 月 15 日正式发布论文《对首起重大 AI 赋能恐怖主义事件的 Pre-mortem 及 9 项预测》（A Pre-mortem on The First Major AI-Enabled Terrorism Event），作者包括 Stephen Casper、Max Kamachee（领衔）、Jordi Weinstock 等，团队背景涉及 MATS 与哈佛贝尔弗中心。论文核心警告是：最早 2027 或 2028 年可能出现首起重大 AI 赋能恐怖主义事件，Casper 称这可能是其「写过的最重要论文」。
已确认
- 论文给出两个基于现实的示例情景：非国家组织利用闭源权重模型发动生物攻击；国家支持的组织利用开源权重模型发动网络攻击。
- 论文共提出 9 项可证伪预测：除核心预测外另有 8 项，其中 3 项关于闭源权重模型致害路径、3 项关于开源权重模型路径、2 项为两条路径通用。
- 论文回顾了过去数年 AI 滥用的扩散：未经同意的 AI 换脸色情、AI 辅助网络犯罪、AI 加持的小规模恐怖主义事件。
- 论文从 AI 安全科学视角拆解危害事件的五个环节：危害能力如何被开发、如何被部署、危险能力如何被诱导出来、防护护栏如何失效、检测如何失效。作者强调威胁并非纯假设，论文同时包含缓解建议。
- Harvard Gazette 对论文做了深度报道《减少灾难性 AI 风险是否为时已晚？》，报道以涉及 OpenAI、Anthropic、Meta、Google 等公司的虚拟叙事开篇。
为什么重要
- 报道结论是避免灾难性 AI 风险还未太晚，但除非 AI 公司果断行动，否则有切实理由担忧——为安全投入提供了明确的时间窗口论证。
- Pre-mortem 形式配合可证伪预测，使安全主张可被后续事实验证或推翻，属于 AI 安全研究中较少见的规范化尝试。
2026-10-20 ~ 2026-10-21 · 11 条相关
一手来源
- 贝尔弗中心 AI 恐袭 pre-mortem 论文正式发布，含 9 项可证伪预测 — StephenLCasper ·
- 新论文预警:2027-2028 年或现首起 AI 助力重大恐怖事件 — StephenLCasper ·
- Harvard Gazette 报道：避免 AI 灾难还来得及，但企业必须现在行动 — StephenLCasper ·
- 【源头】新论文预警:2027-2028 年或现首起 AI 助力重大恐怖事件 — StephenLCasper · 2026-10-20
- 论文从安全科学视角拆解 AI 恐袭五环节：从能力开发到检测失灵 — StephenLCasper · 2026-10-20
- 贝尔弗论文 8 项补充预测的路径拆分细节 — StephenLCasper · 2026-10-20
- 论文盘点近年 AI 滥用：换脸、AI 网络犯罪与小规模恐袭 — StephenLCasper · 2026-10-20
- 贝尔弗论文另附 8 项预测：闭源 3 项、开源 3 项、通用 2 项 — StephenLCasper · 2026-10-20
- 论文写出两个 AI 恐袭具体情景：生物攻击与网络攻击推演 — StephenLCasper · 2026-10-20
- 【源头】贝尔弗中心 AI 恐袭 pre-mortem 论文正式发布，含 9 项可证伪预测 — StephenLCasper · 2026-10-20
- 【源头】Harvard Gazette 报道：避免 AI 灾难还来得及，但企业必须现在行动 — StephenLCasper · 2026-10-20
- 研究警告最早 2027-28 年或现 AI 恐怖主义事件，给出 9 项可证伪预测 — StephenLCasper · 2026-10-20
另有 2 条近重复转述:StephenLCasper · StephenLCasper