tszzl:对齐未解就冲向 RSI 是史无前例的鲁莽,应放缓前沿
tszzl · x · 2026-10-13
延续其「RLHF 后对齐无根本进步」的判断,tszzl 称各实验室研究员私下甚至公开都承认对齐未解决;若属实,在能力竞速中冲向递归自我改进(RSI)是史无前例的鲁莽,需要尽快显著放慢前沿研究。
所属事件:tszzl 称 RLHF 后对齐无根本进展，冲向 RSI 空前鲁莽(8 条相关)→
「漫话AGI」频道最新
- 三天赚 2 万美元的独立开发者自嘲:根本不知道 Jev 是什么,活照干钱照收 — aryanXmahajan · 2026-10-13
- 「逆向一切」REA 狂揽 12 万星,Agent 时代软件如何自处? — Arindam_1729 · 2026-10-13
- REA逆向项目爆火：AI能复制一切软件，还剩什么不能复制 — AlchainHust · 2026-10-13
- IMF 警告：AI 股价崩盘风险已威胁全球金融稳定 — nordicinst · 2026-10-13
- Yacine：AI 将让算力比房产更值得投资，重塑经济回报逻辑 — yacineMTB · 2026-10-13
- 数学家抱怨模型「不对齐」，x-risk 叙事反成自我实现预言 — akbirthko · 2026-10-13