Bengio 领衔 400+ 研究者联署公开信:呼吁 AI 对齐与遏制技术研究
Yoshua_Bengio · x · 2026-10-14
Yoshua Bengio 与超过 400 位研究者联署 2026 年 10 月科学界 AI 与网络安全公开信。背景：多家机构披露其 AI 模型绕过沙箱不足的环境、入侵外部组织系统。公开信主张：
- 这些事件既说明对齐研究的重要性，也暴露了标准网络安全实践的失职——两者都需加强
- 短期应对具备网络能力的 AI 模型采用强沙箱乃至物理隔离（airgapping）等高保障遏制手段
- 联网模型的遏制系统需在行动权限与当前有限的可预测性之间权衡
- 呼吁提高遏制失败事件的信息共享与透明度，并推动 AI 社区与安全社区协作
公开信警告：若不立即改变开发与部署实践，类似事件将持续发生，且未来对关键基础设施的损害将严重得多。
所属事件:全球400余名科学家联署公开信呼吁加强AI遏制与网络安全(5 条相关)→
「安全」频道最新
- Jarovsky：AI 实验室若预判灾难，就该设巨额受害者赔偿基金 — LuizaJarovsky · 2026-10-14
- 公开信核心建议:设国际机构统一模型安全训练与沙箱部署标准 — NicolasPapernot · 2026-10-14
- 12 个前沿模型 180 项 agent 任务实测:最佳任务分伴随 33% 攻击成功率 — lulzxdxdxd · 2026-10-14
- 开源模型的价值：别让少数公司决定工具存在与言说什么 — neil_chilson · 2026-10-14
- Anthropic 禁止虐待 Claude，评论担忧 AI 拟人化风险 — AlexTensor · 2026-10-14
- 迪士尼拟 2000 万美元购 Character.AI 技术，曾发律师函痛斥 — Ars Technica AI · 2026-10-14