多伦多大学 Papernot 呼吁:强 AI 模型发布前须接受独立安全测试

VectorInst · x · 2026-09-11

多伦多大学教授、Vector Institute 研究员 Nicolas Papernot 呼吁对强大 AI 模型进行独立测试,称大学可充当「透明度桥梁」,在模型公开发布前调查其网络安全威胁。其团队今年 6 月曾演示如何用免费模型构建一种能自适应传播、劫持设备并窃取算力的 AI 蠕虫,经审慎评估后公开成果,以便防御方抢在攻击者之前建立防护。他将于 9 月 10 日在 Schwartz Reisman 研究所活动上讨论 AI 威胁对关键基础设施、经济与国家安全的影响。