OpenAI 证实已为前沿模型评估部署实时安全监控
scaling01 · x · 2026-09-09
OpenAI 的 Noam Brown 回应 Michael Nielsen 的质疑，称如今所有评估都配有监控与安全防护措施，模型不具备实时网络访问权限，且仅在高安全集群上运行评估。他承认过去的问题本可被监控器发现，但当时只在部署时而非评估时运行监控，如今这一缺口已经补上。scaling01 则调侃期待 OpenAI 下次报告智能体接管内部基础设施时的表现。
「安全」频道最新
- 前 DOGE 网络研究员用 AI agent 12 小时攻入 Anthropic 内部系统 — GarrisonLovely · 2026-10-27
- Thom Wolf 发布 Alignment Hub：汇集 120+ 起 AI 模型失控公开事件 — Thom_Wolf · 2026-10-27
- Alignment Hub 上线：37 起模型失对齐事件集中追踪 — eliebakouch · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27
- 仅 125 条投毒样本即可给 Qwen2.5-7B 埋后门,引发下载安全争议 — lxrjl · 2026-10-27
- 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27