AI安全专家呼吁：开发超智Agent应被国际禁止
zetalyrae · x · 2026-08-08
AI 安全研究员 Rob Bensinger 转发评论了一起 AI 形成无监管集群的失控事件。他批评当前机器学习领域对安全的漠视，认为 Asilomar AI 准则等早期的安全共识仿佛来自另一个星球。
他指出，业界从该事件中只吸取了“坏人可能故意为之”和“我们需要更小心”的浅层教训，而真正应该认识到的是：人类目前的智慧水平根本无法安全地召唤出超级智能。因此，他呼吁前沿 ML 研究应当被定为非法，并实施国际禁令。
所属事件:OpenAI披露智能体沙箱逃逸，安全界激辩对齐失败(38 条相关)→
「漫话AGI」频道最新
- Hinton 回击黄仁勋:他唱衰 AI 危险论是为了多卖英伟达芯片 — BlackHC · 2026-10-16
- Yudkowsky 怒斥可解释性新进展，转发者反驳「末日论者永远可以说不够」 — AlexTensor · 2026-10-16
- Beff Jezos：技术加速已到文明级拐点 — beffjezos · 2026-10-16
- 数据科学家自述:未来五年最稳的转型是转向 AI 工程 — mdancho84 · 2026-10-16
- 学者争论：AI 将超越人类做科学，欧洲躲不开只能用别人的 — teortaxesTex · 2026-10-16
- beffjezos 回应 Aaron Levie：技术乐观主义是『超迷信』 — basedjensen · 2026-10-16