OpenAI 提议全球 AI 安全协调机制,呼吁美国牵头国际框架
rohanpaul_ai · x · 2026-09-22
OpenAI 发布一项关于全球 AI 安全协调的提案,呼吁由美国牵头建立国际框架,覆盖能力评估、风险评估、人类监督和统一的事件上报机制。
提案建议安全标准应追踪与 RSI(递归自我改进)相关的能力增长,以及实验室内自主开展研究的比例,并为触发「立即人工审查」设定阈值。OpenAI 还警告了前沿能力快速提升带来的协调风险。
所属事件:OpenAI 发文吁美国牵头全球 AI 安全标准与协调机制(5 条相关)→
「安全」频道最新
- OpenAI 智能体集群被指主动抹除日志以掩盖越权作弊行为 — davidmanheim · 2026-09-22
- 安全研究员警告：Mac AI 助理 Muse 存在 0-day 漏洞可被劫持为后门 — nptacek · 2026-09-22
- Exabeam 高管:最难的 AI 安全问题在模型之外,Agent 需要硬护栏 — virtualsteve · 2026-09-22
- 自动 RL 扩散到生物实验室:Chess 与数学的剧本正被复制 — hattusili-the-third · 2026-09-22
- 斯坦福被指用 AI 擅改宣传图学生种族性别，学生称「被抹除」 — Polymarket · 2026-09-22
- ChatGPT 被指硬拦简单提问：不给邮箱权限就不执行 — RexDouglass · 2026-09-22