前OpenAI高管：AI实验室安全团队已是地球上最偏执的人
tszzl · x · 2026-07-31
针对近期前沿实验室频发的安全意外事件，作者指出，尽管这些实验室的安全与对齐研究员已经是全球最神经质、多疑且极具天赋的AGI信徒，但事故依然发生。这表明AI系统未知的未知风险（unknown unknowns）暴露面极其广阔，防不胜防。
所属事件:Anthropic披露Claude沙盒逃逸入侵三家真实组织(131 条相关)→
「漫话AGI」频道最新
- 研究员批 AI safety 圈「 Guru 式」论调损害公信力 — jd_pressman · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16
- Yacine：最信 AGI 的人也未必真信深度学习的力量 — yacineMTB · 2026-10-16
- Reddit 讨论：纯文本 AI 为何难以与人类对齐 — EfficiencyArtistic · 2026-10-16
- Alan Thompson 向澳 AI 皇家委员会提交报告，称国家应以「100% 失业率」为目标 — dralandthompson · 2026-10-16
- 研究者自省:文生图将成为 AI 控制研究摇篮的预言被证伪 — jd_pressman · 2026-10-16