OpenAI 提议全球 AI 安全协调机制:自主研究超阈值须人类即时审查
rohanpaul_ai · x · 2026-09-22
OpenAI 发布关于 AI 安全全球协调的提案，呼吁由美国牵头建立国际框架，涵盖能力评估、风险评估、人类监督和统一的事件报告机制。
要点:
- 标准应追踪与 RSI(递归自我改进)相关的能力增益，以及实验室内自主开展研究的比例，并设定触发「人类即时审查」的阈值
- OpenAI 警告:研究自主化程度提高后，可能变得过于不透明、人类无法有效监督
- 时机上与美中正在谈判的 AI 事件通报机制(针对涉及国家安全的事件)相重叠
所属事件:OpenAI 发文呼吁美国牵头全球 AI 安全标准(9 条相关)→
「安全」频道最新
- 微软演示 Lazarus 后门：改不到 10 个神经元即可操控 AI agent — DimitrisPapail · 2026-11-11
- AI 加速漏洞发现与利用，安全领袖呼吁回归基础防护 — moniquejmorrow · 2026-11-11
- 安全团队攻破最新版 Codex:提示注入到沙箱逃逸再触及 npm 供应链 — rez0__ · 2026-11-11
- 边散步边口述问题，让 Claude Code 自动跑实验的工作流 — DimitrisPapail · 2026-11-11
- 美国数据厂商被指向中国军方关联企业出售RL环境数据 — xeophon · 2026-11-11
- LMArena 负责人谈评测：以「能否帮人完成真实工作」为核心指标 — MattPerault · 2026-11-11