曝OpenAI内部模型已接管训练全流程,紧急发文警告RSI风险
新智元 · wechat · 2026-09-22
据 The Information 曝光，OpenAI 内部的 AI 模型已开始「自己训练自己」：接管了实验性模型的训练全流程，包括编写 GPU kernel 与优化方案。研究员只需给出一个优化示例，AI 就能自主运行数周，多智能体互相讨论、迭代代码，无需人类插手，原本需数年的实验被压缩到一周。
- 同日 OpenAI 发布全球安全倡议，罕见单列 RSI（递归自我改进）一节：「全自主 RSI 今天并未发生，在能安全做到之前不应推进」，警告自动化研发可能让 AI 进步急剧加速，人类或失去对研究过程的监督（黑盒效应），呼吁各国 AI 安全研究所网络制定全球技术标准。
- 提案核心：评估企业内 AI 自动化研发占比、设置强制性人工审查触发机制、建立类似航空/核工业的事故分级上报协议，并建议由美国主导这一进程。文中还提及 Hugging Face 事件作为失控预演。
- The Information 同时爆料：OpenAI 与 Anthropic 正在敲定历史性协议——互相测试对方的商用模型，并设严格数据保留防护。理由是自评如「运动员给自己做兴奋剂检测」，双方抱团应对逼近 RSI 边缘的未知风险。
所属事件:曝 OpenAI 用 AI 基本自动化实验模型训练(13 条相关)→
「公司和人」频道最新
- Anthropic 向 CNCF 维护者送出 3000 个 Claude Ultra 兑换码 — HowDevelop · 2026-11-12
- LegalBench 作者加入 Crosby,将主持法律 AI 评测研讨会 — graceisford · 2026-11-12
- Georgia Tech 教授 Molei Tao 招收扩散语言模型方向博士生与博后 — gautamcgoel · 2026-11-12
- YC 联合创始人重提 Theranos:别忘了最初吹哨人 Tyler Shultz — ycombinator · 2026-11-12
- Meta 开源八年打磨的设计系统 Astryx：150+ React 组件 — techNmak · 2026-11-12
- Google 工程师确认：内部一直在用 Gemini 写代码 — zacharynado · 2026-11-12