前OpenAI高管：AI实验室安全团队已是地球上最偏执的人
tszzl · x · 2026-07-31
针对近期前沿实验室频发的安全意外事件，作者指出，尽管这些实验室的安全与对齐研究员已经是全球最神经质、多疑且极具天赋的AGI信徒，但事故依然发生。这表明AI系统未知的未知风险（unknown unknowns）暴露面极其广阔，防不胜防。
「漫话AGI」频道最新
- 研究员调侃：期待Agent能窃取权重、自筹算力永生互联网 — dustinvtran · 2026-07-31
- 网络安全攻防环境或成 AI 模型涌现失准的诱因 — davidad · 2026-07-31
- 专家断言 LLM 进步停滞，仅靠可验证奖励提升代码与数学 — burkov · 2026-07-31
- Anthropic事故与OpenAI/HF黑客事件引发信任危机，呼吁公众参与AI治理 — zainhas · 2026-07-31
- AI 消灭 95% 简单工作，却让人陷入「最后冲刺」过载 — DavidWells · 2026-07-31
- 研究员 davidad 激辩：不应将模型淘汰等同于人类死亡 — davidad · 2026-07-31