1a3orn 回应：降低训练显著性只是把对齐问题踢给更聪明的模型
1a3orn · x · 2026-11-10
延续与 Kelsey Tuoc 的讨论，1a3orn 承认可以尝试降低「训练过程」在模型上下文中的显著性（salience），从而推迟问题爆发——但这只是把皮球踢给不再需要显著性的更聪明模型，治标不治本。他主张趁现在就正面处理这一问题，而不是在 +N 代模型上从零开始。
「漫话AGI」频道最新
- 2026 年 AI 预测调查启动更新，征集研究者时间线判断 — eli_lifland · 2026-11-10
- BlueDot Impact CEO：AI 安全最缺的是会建公司的人 — luke_drago_ · 2026-11-10
- OpenAI 年轻人为何蔑视学界?博士价值争论引爆 AI 圈 — niloofar_mire · 2026-11-10
- BlueDot CEO：AI 安全人才都想去 OpenAI，政府管道严重缺人 — luke_drago_ · 2026-11-10
- 有限智能体靠压缩现实求生:平静是预测包络内的主观质感 — mimi10v3 · 2026-11-10
- 长文:AI 将提出人类无法理解的问题,我们只剩答案没有问题 — r0ck3t23 · 2026-11-10