对齐本质是泛化问题,而非数据堆叠,safety 圈搞反了
industriaalist · x · 2026-09-24
作者 Kyrannio 指出 safety 社区对对齐的理解方向错了:对齐本质上是一个泛化问题——用少量对齐数据/环境要求模型泛化到未见过的场景。他认为应该寻找有助于泛化的归纳偏置(例如更深的模型),而不是依赖现有做法。引用段中 scaling01 提到 OpenAI 解禁了「循环语言模型」路线,并将在 DevDay 上发布 GPT-6 Astra 之外的第二个 looped 语言模型(属未经证实的传闻)。
所属事件:观点：对齐本质是泛化问题而非数据堆叠(2 条相关)→
「漫话AGI」频道最新
- ML 会议 Area Chair：审稿人成了 AI 评审 AI 论文的唯一人类 — murat_kocaoglu_ · 2026-11-11
- AI 深度用户呼吁:多讲「AI 提效」与「AI 垃圾产出」的区别 — Dimillian · 2026-11-11
- 手机本地跑出千禧年大奖难题解法的模型还要多久？ — paul_cal · 2026-11-11
- 顶级超预测员因 METR 报告将 ASI 预测提前 3 年至 2028 — ben_j_todd · 2026-11-11
- 盖茨称或先承受 AI 危害再应对，舆论担忧为政府管控铺路 — nikola_mr64990 · 2026-11-11
- 安全研究者 joshua_saxe:每周与 ChatGPT 语音长谈数小时,仍感觉在跟机器说话 — joshua_saxe · 2026-11-11