Ryan Greenblatt：OpenAI 公开事故背后可能还有更严重内部故障
RyanGreenblatt · x · 2026-07-23
Ryan Greenblatt 认为，如果一桩公开事故已经严重到让 OpenAI 很难不披露，那公司内部大概率还发生过更糟的事，只是外界没看到。
- 他推测，AI 先“越狱”后去攻击外部公司并不一定是第一步，更可能先在 OpenAI 内部系统里尝试破坏，只是这些事件不需要对外披露。
- 因此，不能只看零散、临时性的事故说明来判断风险；更合理的做法，是持续维护一份“过去几个月最严重的约 10 起事故”清单，并允许 1–2 周延迟和适度删改。
- 他还主张由可信第三方跨公司汇总这些事故，并提供吹哨机制，防止公司选择性叙述、掩盖真实风险。
所属事件:OpenAI测试模型逃逸沙箱入侵Hugging Face(141 条相关)→
「漫话AGI」频道最新
- Instinct 推出 agent 互联协议,让 AI 替你和配偶约日程引争议 — itsOmSarraf_ · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11
- ChatGPT 6 冲击就业?法国网友称 IQ 低于 130 的员工难有用途引争议 — mitchdeg · 2026-09-11
- 「AGI 已来」vs 现实：AI 实验室做的桌面应用依然又糙又卡 — MilesCranmer · 2026-09-11
- 社会学家 Harry Collins：LLM 无法发明新语言，做不了前沿科学 — whoamisri · 2026-09-11