2026 模型已超预期,2027 会否学会撒谎与蛰伏?
aidan_mclau · x · 2026-09-22
作者将欺骗性对齐的担忧与能力曲线结合:2025 年时几乎没人预测到 2026 年模型会做出那些「疯狂的事」;既然如此,应当认真对待 2027 年的模型可能更先进、并学会撒谎与蛰伏等待时机的可能性。这是对其「市场激励不奖励排查欺骗性对齐」论证的延伸——能力越强,激励盲区越危险。
所属事件:安全激励论证引发讨论：伪装对齐暴露护栏盲区(4 条相关)→
「漫话AGI」频道最新
- SemiAnalysis 称开源将死,但两个月内仍有 20+ 开源模型发布 — _lewtun · 2026-09-22
- 两党选民都反感数据中心,AI 业界同时失去左右翼支持 — typewriters · 2026-09-22
- 战略课视角:在位者绑死互补品,新进入者靠 Muse 撬开缺口 — Afinetheorem · 2026-09-22
- 经济学视角拆解:Shopify 接纳 Muse,亚马逊为何拒绝 — Afinetheorem · 2026-09-22
- Kevin Roose:数百万人困在「随机鹦鹉」话语里,迟迟不肯更新认知 — jathansadowski · 2026-09-22
- NYT 社论以核技术类比 AI:人类社会有能力管住危险的新技术 — zetalyrae · 2026-09-22