Scott Alexander 回忆 2019 年与 Buck 的对话：RL 让对齐问题全部回归
slatestarcodex · x · 2026-11-02
Scott Alexander（slatestarcodex）回应关于 AI 安全社区氛围转变的讨论，澄清自己的立场：局势既没变好也没变坏，符合他的预期。
- 他回忆 2019 年前后的一次晚餐：当时他对 Buck 说，我们即将拥有不带危险目标的 oracle/tool AI，问题似乎已经解决；Buck 预言几年后人们会用 RL 把它们变成 agent，所有问题都会回来
- 他承认自己当时没能在独立生成这个假设，但 Buck 说出来后显然是对的；此后没有任何事让他大幅倒向乐观或悲观
- 他认为现在仍是在屏息观察：RLVR 会造成多大伤害、是否会出现对抗它的力量、以及越来越连贯/有反思能力的 agent 开始反思自身动机时会发生什么
所属事件:AI 安全圈激辩：RL 会让对齐问题回归吗(3 条相关)→
「漫话AGI」频道最新
- 学者批 vibecoding 生态:28 个热门平台在催眠普通人买单 — arthurcolle · 2026-11-03
- SaaS 真正的威胁:AI 先行小团队用更低价格做出更好的 Slack 替代品 — bendee983 · 2026-11-03
- 研究者指出 AI 正让女性承担新的办公室杂务 — AnnaCiaunica · 2026-11-03
- Claude 给未来 10 年 AI 时代的 10 条建议：自托管开源模型、别锁死单一厂商 — alex_verem · 2026-11-03
- Agent 通宵造零件：Scoble 现场晒按需 CNC 加工实况 — Scobleizer · 2026-11-03
- 哲学家：AI 时代人类独特之处在于渴望定义自己 — AnnaCiaunica · 2026-11-03