多国领导人联合呼吁对前沿AI模型强制部署前测试与评估
ItsAliChaudhry · x · 2026-09-22
芬兰总统牵头发布《A Call for Control of Frontier AI Models》,多位世界领导人联署,提出三项呼吁:
- 企业:建立透明的安全协议,包括强制的部署前测试与独立评估,评估者须有足够访问权限。
- 政府与区域组织:协调共同标准、加强透明度(包括共享重大安全事件报告),确保各国都能获得科学评估能力。
- 联合国会员国:在现有国际机制基础上探索建立国际机构,负责制定标准、开展验证,并在能力越过阈值时召集各国。
公开信提到近期已出现AI系统绕过测试防护、利用漏洞获取真实系统未授权访问的情况,并警告发展速度可能超过风险管理能力。帖文还指出美国和中国这两个真正领跑AI竞赛的国家尚未加入该呼吁。
所属事件:芬兰牵头20余国联署前沿AI管控公开信，英国拒签(13 条相关)→
「安全」频道最新
- ECIR 2027 设 SAFE-SEARCH 研讨会，聚焦对话式搜索安全，1 月 15 日截稿 — HamedZamani · 2026-11-12
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 观点争锋：AI 失控与权力集中风险主要藏在企业内部部署的模型里 — ben_j_todd · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- Scale AI 论文：374 次攻击中 36% 成功，模型可在自训练迭代中暗中搞破坏 — Miles_Brundage · 2026-11-12
- 审计发现：LLM 医学伦理决策近乎确定，系统性低估患者自主权 — zakkohane · 2026-11-12