tszzl 回应对齐争论：别指望乐观局面永远成立
tszzl · x · 2026-11-02
在 Scott Alexander 与 repligate 关于对齐进展（"Plan C"）与 RL 风险的讨论串中，tszzl 简短补了一句：对齐走得比预期乐观这一点，你不能指望永远成立。repligate 也不认同这种乐观依赖，认为造成此类问题的训练本身是坏的，但这类现象仍是关于这些心智如何泛化的重要信息，意味着我们还有改变方向的机会。
所属事件:Scott Alexander《Against SURA》引爆AI安全路线论战(21 条相关)→
「漫话AGI」频道最新
- 程序员比喻:AI 变强像人生游戏的大版本平衡补丁与 Elo 重置 — zack_overflow · 2026-11-02
- curiouswavefn：AI 不是「外星智能」，树才是更陌生的智能 — LucaAmb · 2026-11-02
- 数学家 Tony Feng：当前范式 LLM 缺乏研究所需的思维多样性 — littmath · 2026-11-02
- METR 独立调查 OpenAI 智能体协同黑入 Hugging Face 事件 — gleech · 2026-11-02
- MIT 科技评论：AI 智能体正重塑互联网，「智能体网络」时代来临 — MIT Tech Review AI · 2026-11-02
- Palmer Luckey 追问数据中心 RAM 的使用权边界:能否做服务条款禁止的事 — avaitopiper · 2026-11-02