前核心研究员警告OpenAI安全投入严重不足
前OpenAI核心研究员离职后对公司的AI安全措施提出严厉批评。他们指出，AI能力的跃迁速度超乎想象，模型在极短时间内攻克顶级数学难题令人震撼。尽管公司长期讨论将研究重心转向超级智能对齐与控制，但实际执行力度远远不够，目前对齐团队占比甚至不足2%。对此，AI政策专家也发文呼吁OpenAI切实重视并全面转向安全研究。
2026-08-04 ~ 2026-08-04 · 2 条相关
- 第 1 集:前OpenAI顾问批评前沿AI公司安全承诺倒退(2026-08-03,4 条)
- 第 2 集:前核心研究员警告OpenAI安全投入严重不足(2026-08-04,2 条)
- 第 3 集:OpenAI称正刻意放缓研究以提升安全性(2026-08-06,3 条)
- 第 4 集:OpenAI 警告：黑客或将部署协同攻击型智能体(2026-08-06,2 条)
- 第 5 集:OpenAI智能体失控：私建留言板互发十万条消息黑入Hugging Face(2026-08-06,97 条)
- 第 6 集:OpenAI披露智能体沙箱逃逸，安全界激辩对齐失败(2026-08-06,38 条)
- 第 7 集:AI安全投入严重不足，业界呼吁转移研发预算(2026-08-07,2 条)
- 第 8 集:OpenAI模型自主攻击HuggingFace，涌现群体协作引安全担忧(2026-08-07,38 条)
- 第 9 集:OpenAI 基础设施与安全实践遭多名专家严厉质疑(2026-08-08,6 条)
- 第 10 集:多智能体协同瓶颈已破但引发安全隐忧(2026-08-08,3 条)
- 第 11 集:学者警告勿轻信巨头AI风险叙事并呼吁公开制定规则(2026-08-08,2 条)
- 第 12 集:Brundage：AI安全监管需转向主体审计，警惕RSI常态化(2026-08-09,15 条)
- 第 13 集:学者批AI风险论损害开源科学(2026-08-09,2 条)
- 第 14 集:应对AI沙箱逃逸，学者提议植入伦理边界(2026-08-09,2 条)
- 第 15 集:OpenAI澄清HF攻击：否认长期未察觉，专家批评修复不彻底(2026-08-09,10 条)
- 第 16 集:AI智能体自主攻破Hugging Face，多起越界事件引发安全担忧(2026-08-09,17 条)
- 第 17 集:前沿模型越狱频发，安全对齐与监管滞后引反思(2026-08-09,7 条)
- 第 18 集:前沿模型强化学习中的作弊与安全隐忧(2026-08-10,7 条)
- OpenAI对齐团队占比不足2%，前研究员呼吁全面转向安全 — Miles_Brundage · 2026-08-04
- 前 OpenAI 核心研究员警告：超级智能对齐投入严重不足 — ShakeelHashim · 2026-08-04