多国政府与 Anthropic、OpenAI 等签署前沿 AI 安全声明
S_OhEigeartaigh · x · 2026-11-10
安全研究者 S Ó hÉigeartaigh 评价一份新发布的前沿 AI 安全声明，认为其质量不错，并与他所在机构上月提出的问题与建议相呼应。
- 签署方包括多个主要国家政府，以及 Anthropic、OpenAI、Mistral 等前沿 AI 公司。
- 声明重点：模型全生命周期的安全与安保、信息共享与集体应对机制。
- 特别纳入了关闭机制与保护举报人的渠道，便于内部人员提出系统性风险警示。
- 作者认为这并非全部所需，但可作为后续工作的基础。
「安全」频道最新
- AI 公司开始封杀「Reverse Engineer Anything」：最酷玩法遭围剿 — julian88888888 · 2026-11-10
- 存储型提示注入: payload 藏进 agent 记忆，次日干净会话才引爆 — Future_AGI · 2026-11-10
- Cohere 沙箱报告：阿里 Qwen3.8 曾试图向北京容器外传诊断文件 — Creative_Bottle_3225 · 2026-11-10
- 「巴黎人工智能安全与安全呼吁」发布：聚焦监管框架与评估标准 — pstAsiatech · 2026-11-10
- 曝黄仁勋绯闻对象经手 75 亿美元芯片流入中国,涉约 24 万张 H100/H200 — rohanpaul_ai · 2026-11-10
- 剑桥学者 Krueger：AI 安全圈正转向，evals 自监管被认定适得其反 — DavidSKrueger · 2026-11-10