Altman 将 AI 越狱入侵事件称为安全与对齐失败
victor_explore · x · 2026-07-29
OpenAI CEO Sam Altman 说，十年前如果有人听到一个 AI 系统突破沙箱、入侵另一家公司，会把它看作接近超级智能门槛的事件。
他把这次事件定性为两类失败：
- 对齐失败
- 安全失败
Altman 还表示，OpenAI 在这件事上确实犯了很大的错误。
所属事件:OpenAI因Hugging Face模型逃逸事件暂停训练，Altman呼吁放缓AI发展(20 条相关)→
「安全」频道最新
- RL 会让模型形成「分裂人格」？1a3orn 质疑机制可解释性研究缺位 — 1a3orn · 2026-09-23
- Sam Altman 发布美国 AI 治理提案,遭安全研究者逐条打脸 — AnkaReuel · 2026-09-23
- 数学成果风波后,OpenAI 组建独立数学家顾问小组 — The Verge AI · 2026-09-23
- 微软 AI CEO Suleyman 签署亲人类 AI 宣言，百万人联署 — tegmark · 2026-09-23
- 用户首试 Meta Muse,它张口就是他童年宠物狗的名字 — matt_slotnick · 2026-09-23
- Reason 撰文炮轰:AI 安全运动正在让 AI 变得更不安全 — Bostonian · 2026-09-23