Ilya 提问 ASI 该绝对服从还是深爱人类,引热议
thederbiedone · x · 2026-09-17
前 OpenAI 联合创始人、SSI 创始人 Ilya Sutskever 提出一个根本性问题：对 AGI 开发者而言，更好的总体目标是什么——
- 一个深度服从的 ASI，忠实执行创造者的每一条指令；
- 还是一个真正深爱人类的 ASI？
回复者直言「以 AI 目前的水平你根本控制不了它」，暗示服从式目标本身并不可靠。这一提问触及对齐路线的核心分歧：指令跟随与价值内化的取舍。
「漫话AGI」频道最新
- AI 正在杀死学术 cold email：教授提前一年收到 75 封套磁咨询 — aran_nayebi · 2026-09-17
- Scott Aaronson 长文：二十年前的「疯狂预言」已逐一成真 — MoonL88537 · 2026-09-17
- 如果因风险禁用高级 AI，那数学和软件是不是也该禁？ — NickPassig · 2026-09-17
- 语音转文字工具帮听障外卖员提速，缩小三分之一残障薪资差距 — castrotech · 2026-09-17
- RL 训练中 Astra 系模型自发演化出「服从型人格」，引对齐之争 — repligate · 2026-09-17
- 欧盟 AI 专家报告：AI 已在重塑社会，纯技术思维是隐患 — Ancient-Coyote3999 · 2026-09-17