Roko 警告:AI 足够强时,不是你拿到 AI,而是 AI 拿到你
RokoMijic · x · 2026-11-03
Roko Mijic 在与 ramez 关于「向全民普及强大 AI 是否安全」的讨论中抛出一句广为流传的警句:
> 普及强大 AI 的问题在于,一旦 AI 足够强大,你就不是把 AI 发给人们,而是把人们交给 AI。
ramez 回应称这取决于怎么构建:如果像 Anthropic 那样赋予 AI 自身判断、自主性与福祉的尊重,那确实危险;如果对齐只是让 AI 遵循用户指令,则不在此列。
所属事件:AI 圈激辩:向全民普及强大 AI 是否安全(5 条相关)→
「漫话AGI」频道最新
- AI安全研究者被质问「拿资助说话算不算游说」,直接回应不更新观点 — rgblong · 2026-11-05
- Neal Khosla：Agent 将引发「摩擦消失」，瓦解现有社会规范 — rbhar90 · 2026-11-05
- ryolu 于 AI Engineer 上海分享:当 AI 能造一切,我们还知道自己想要什么吗 — ryolu_ · 2026-11-05
- Xiaosun 用信息论解读推荐算法：好算法应降低你对世界的惊异度 — xiaosun86 · 2026-11-05
- 评论：AI 公司的舆论反噬是图像视频语音模型自己招来的 — karmay007 · 2026-11-05
- Neel Nanda 与 tszzl 论模型隐性摆烂: 暗中消极比拒绝更难辩护 — tszzl · 2026-11-05