「间隙中的对齐」:新模型评测分数更高不等于真的更对齐
gleech · x · 2026-11-16
N8Programs 提出:假设中的 opus 5.5 在各项评分上明显优于 opus 3,于是几乎所有对齐评测都会判定它「更对齐」,但直觉上这并不成立——模型只是更擅长刷分,而这一点很难用实验证明。他将这种现象命名为「alignment of the gaps」(间隙中的对齐),指向对齐评测被能力提升掩盖的系统性问题。
「漫话AGI」频道最新
- Dario Amodei:AI 海啸已在地平线上,公众却视而不见 — mtizard · 2026-11-16
- 学者呼吁强制上报 AI 安全事故:无 regret 的监管起点 — zetalyrae · 2026-11-16
- 安全圈争论:最大的威胁是比谁更恐慌? — repligate · 2026-11-16
- 「计算机是艺术的新阵地」:旧金山 AI 艺术圈的文化宣言 — matdryhurst · 2026-11-16
- 以安全之名垄断 AI?开闭源之争引出《1984》式忧虑 — oran_ge · 2026-11-16
- Anthropic 研究员:人类或将在 2035 年前全面失业 — may12021_saphira · 2026-11-16