Schmidhuber 争论余波：对齐非万能，社会系统需更鲁棒
gandamu_ml · x · 2026-09-25
这是与 Schmidhuber 相关争论的后续。作者表示不认同借立场之名霸凌他人，并进一步阐述观点：不把「对齐」视为万灵药——即使做出对齐的模型，训练任意模型仍在变得越来越容易；因此更好的策略是让 AI 之外的一切系统都变得更鲁棒，只盯着 AI 本身看在他看来是一种「魔法思维」。
所属事件:Schmidhuber 争论后续：对齐非万能，系统需更鲁棒(2 条相关)→
「漫话AGI」频道最新
- Pedro Domingos:AGI 仍很远的三大理由,机器人缺 ChatGPT 时刻 — pmddomingos · 2026-09-25
- Block 高管:裁员是逼员工用 AI 提效的「forcing function」 — rohanpaul_ai · 2026-09-25
- Block 高管:裁员是逼员工用上 AI 的「强制函数」 — rohanpaul_ai · 2026-09-25
- 修好 Claude 的文风,被视为抵御「渐进式失权」的关键一步 — aidan_mclau · 2026-09-25
- 投资人观点：AI demo 正在死去,数据与模型才是真东西 — yenkel · 2026-09-25
- 开发者发文:前沿 AI 离不开提示词,缺的是安全监控与护栏 — gerardsans · 2026-09-25