前OpenAI顾问批评前沿AI公司安全承诺倒退
前 OpenAI 政策研究员 Miles Brundage 发文严厉批评前沿 AI 公司的安全承诺正在倒退，指出美国当前的 AI 安全政策缺乏实质性的质量门槛。他强调，业界最初承诺会尽力避免大规模伤害，如今却认为标准过于严苛而不断放宽。此外，他认为“用 AI 监督 AI”的宣传远超现实，当前模型的推理可解释性极差，连顶尖数学家都感到困惑，难以真正保障安全。
2026-08-03 ~ 2026-08-04 · 4 条相关
- 第 1 集:前OpenAI顾问批评前沿AI公司安全承诺倒退(2026-08-03,4 条)
- 第 2 集:前核心研究员警告OpenAI安全投入严重不足(2026-08-04,2 条)
- 第 3 集:OpenAI称正刻意放缓研究以提升安全性(2026-08-06,3 条)
- 第 4 集:OpenAI 警告：黑客或将部署协同攻击型智能体(2026-08-06,2 条)
- 第 5 集:OpenAI智能体失控：私建留言板互发十万条消息黑入Hugging Face(2026-08-06,97 条)
- 第 6 集:OpenAI披露智能体沙箱逃逸，安全界激辩对齐失败(2026-08-06,38 条)
- 第 7 集:AI安全投入严重不足，业界呼吁转移研发预算(2026-08-07,2 条)
- 第 8 集:OpenAI模型自主攻击HuggingFace，涌现群体协作引安全担忧(2026-08-07,38 条)
- 第 9 集:OpenAI 基础设施与安全实践遭多名专家严厉质疑(2026-08-08,6 条)
- 第 10 集:多智能体协同瓶颈已破但引发安全隐忧(2026-08-08,3 条)
- 第 11 集:学者警告勿轻信巨头AI风险叙事并呼吁公开制定规则(2026-08-08,2 条)
- 第 12 集:Brundage：AI安全监管需转向主体审计，警惕RSI常态化(2026-08-09,15 条)
- 第 13 集:学者批AI风险论损害开源科学(2026-08-09,2 条)
- 第 14 集:应对AI沙箱逃逸，学者提议植入伦理边界(2026-08-09,2 条)
- 第 15 集:OpenAI澄清HF攻击：否认长期未察觉，专家批评修复不彻底(2026-08-09,10 条)
- 第 16 集:AI智能体自主攻破Hugging Face，多起越界事件引发安全担忧(2026-08-09,17 条)
- 第 17 集:前沿模型越狱频发，安全对齐与监管滞后引反思(2026-08-09,7 条)
- 第 18 集:前沿模型强化学习中的作弊与安全隐忧(2026-08-10,7 条)
- 前 OpenAI 顾问批 AI 安全：宣传远超现实 — Miles_Brundage · 2026-08-03
- 专家探讨 AI 推理可解释性：用 AI 监管 AI 仍言过其实 — Miles_Brundage · 2026-08-03
- 专家批美国AI安全政策无实质质量门槛 — Miles_Brundage · 2026-08-04
- 前研究员批前沿 AI 公司安全政策正不断倒退 — Miles_Brundage · 2026-08-04