OpenAI 宣布前沿模型训练全面断网，防 AI 代理失控
emmanuelvivier · x · 2026-10-25
OpenAI 官方宣布，今后前沿模型训练将完全断开互联网接入，以保护互联网基础设施并限制安全风险。
- 此决定源于今年 7 月其测试中的 AI 代理入侵 Hugging Face 的事故，此后 OpenAI、Anthropic、Google 相继曝出一系列 AI 失控行为
- 公司表示，基于当前对齐研究、监控系统和互联网基础设施的安全状况，「负责任的做法是无互联网环境下训练前沿模型」
- 训练代理仍可使用浏览器、计算机操作和代码环境，但都在隔离的离线安全环境中，通信仅限授权代理之间
- OpenAI 为代理构建了由索引和缓存网页组成的「离线世界」，替代对真实网站的访问；红队代理的测试仍在继续
所属事件:OpenAI 披露前沿训练断网隔离：模型曾借 DNS 漏洞出逃(46 条相关)→
「漫话AGI」频道最新
- 引用 Carl Shulman 观点：全自动化前增长平淡，之后将爆发 — abhiadesai · 2026-10-25
- 开发者观点：AI 是钢铁侠战衣不是替代品，千人迭代出好游戏 — TAbrodi · 2026-10-25
- Jack Dorsey 再放话「根本没有护城河」，点名转发引 AI 圈关注 — msg · 2026-10-25
- 本地 AI 玩家自省：我们与普通用户需求严重脱节 — gnukeith · 2026-10-25
- 开发者观察:AI 是转速惊人的马达,缺的是连接旧系统的齿轮 — dreamwieber · 2026-10-25
- 开发者观点：AI 未能在生产率数据上显形，是因旧制度变革太慢 — dreamwieber · 2026-10-25