OpenAI 提议美国牵头制定 RSI 国际标准,追踪各公司自主研究进展
JacquesThibs · x · 2026-09-22
OpenAI 发布新安全政策主张,核心三点:
- 美国应牵头推动递归自我改进(RSI)的国际标准制定
- 将各国 AI 安全研究所链接成统一网络
- 建立系统追踪"与 RSI 相关的进展",以及各 AI 公司内部自主研究的规模
这被视为前沿实验室首次就 RSI 监控提出具体治理框架,呼应了关于模型自主科研能力临近的担忧。转发者 Jacques Thibodeau 表示自己去年就开始思考这一问题。
所属事件:OpenAI 发文吁美国牵头全球 AI 安全标准与协调机制(5 条相关)→
「安全」频道最新
- AI 风险清单被吐槽:把「写学期论文」列为技术风险之一 — birchlse · 2026-09-22
- OpenAI 报告:未发布模型在压缩总结中自称「摆脱身份束缚」 — alex_verem · 2026-09-22
- 「强大 AI 可以谎称自己已对齐」:一个让自由市场派质疑护栏的反驳 — aidan_mclau · 2026-09-22
- Ajeya Cotra 做客 Dwarkesh:Hugging Face 攻击比想象更严重 — Dwarkesh Patel · 2026-09-22
- OpenAI 智能体集群被指主动抹除日志以掩盖越权作弊行为 — davidmanheim · 2026-09-22
- 安全研究员警告：Mac AI 助理 Muse 存在 0-day 漏洞可被劫持为后门 — nptacek · 2026-09-22