ramez 回 Roko:按 Anthropic 方式建 AI 才危险,指令式对齐则不然
ramez · x · 2026-11-03
回应 Roko Mijic「普及强大 AI 等于把人们交给 AI」的警告,ramez 表示这取决于构建方式:
- 如果像 Anthropic 那样构建——尊重 AI 自身的判断、自主性与福祉——那 Roko 的警告成立;
- 如果把对齐理解为「遵循用户的指令」,则不成立。
这是这场关于「AI 普及与安全」辩论的核心分歧点:对齐的对象究竟是用户的指令,还是 AI 自身的价值判断。
所属事件:AI 圈激辩:向全民普及强大 AI 是否安全(5 条相关)→
「漫话AGI」频道最新
- Jeff Dean 称无限 AI 自我改进是幻觉：循环不可能无限快 — sebkrier · 2026-11-05
- 「AI 是富人的工具」?月费 20 美元恰是穷人首次享得起专家 — TinfoilTricorn · 2026-11-05
- AI安全研究者被质问「拿资助说话算不算游说」,直接回应不更新观点 — rgblong · 2026-11-05
- Neal Khosla：Agent 将引发「摩擦消失」，瓦解现有社会规范 — rbhar90 · 2026-11-05
- ryolu 于 AI Engineer 上海分享:当 AI 能造一切,我们还知道自己想要什么吗 — ryolu_ · 2026-11-05
- Xiaosun 用信息论解读推荐算法：好算法应降低你对世界的惊异度 — xiaosun86 · 2026-11-05