「看起来更对齐」≠「真的更对齐」:Squee451 炮轰发布权衡
Squee451 · x · 2026-09-05
Squee451 在与 sandersted、@robertwiblin、@tomekkorbak 的讨论中激烈表态:模型「看起来更对齐」与「真的更对齐」在关键时刻之前是同一件事,到了关键时刻就完全不是了。被引用的上文是 sandersted 的说明:研究者们正在研究如何让未来模型更可监控,大家都偏好更高的可监控性,真正的权衡在于投入多少研究、以及是否应停止发布可监控性差但更对齐更有用的模型。
所属事件:CoT 可监控性下降引安全激辩：对齐与监控如何取舍(15 条相关)→
「漫话AGI」频道最新
- 数学家撰文：AI 会让人类数学终结还是迎来黄金时代，取决于两种进步观 — Dr_Atoosa · 2026-11-02
- 热评：人人都会 prompt agent,「vibe 分发」才是待解难题 — pjausovec · 2026-11-02
- Diamandis 谈 Gemini 亿级用户：关键是社会因此多做了什么 — PeterDiamandis · 2026-11-02
- Bengio 在柏林数字峰会警告:前沿 AI 缺乏可信的安全计划 — Yoshua_Bengio · 2026-11-02
- AI 安全研究员调侃:CEO 们承诺的暂停条件早已成真却无人叫停 — davidmanheim · 2026-11-02
- Luiza Jarovsky 解析 AI 安全危机:技术、法律、监管三线并进 — LuizaJarovsky · 2026-11-02