对齐研究进展远落后于能力进展，无人知道如何对齐超人类模型
MariusHobbhahn · x · 2026-11-11
Marius Hobbhahn（AI 安全研究者）重申行业主流判断：安全/对齐的进展远远落后于能力进展。这不仅是圈内共识，也包括各实验室高层的公开表态——「没有人知道如何对齐超人类模型，甚至对齐当前的模型也做不到」。
他引用 @soundboy 2024 年在 Financial Times 文章中的示意图：能力进步曲线陡峭上扬逼近「God-level AI」，而对齐进步曲线几乎贴地。他认为这张两年前的图至今仍准确描述着行业现状。
所属事件:安全研究者重申：无人知道如何对齐超人类模型(2 条相关)→
「漫话AGI」频道最新
- Dario Amodei 称十年内癌症将成为过去，遭批「无视民意狂奔超级智能」 — zetalyrae · 2026-11-11
- 通勤路上让 Agent 整理笔记：五年前会惊艳，如今如穿鞋般平常 — _FelixSimon_ · 2026-11-11
- AI 版快乐水车：人类对突破性技术的适应远超想象 — _FelixSimon_ · 2026-11-11
- 女子带头否决数据中心，社区错失数百亿税收后陷入困境 — Dan_Jeffries1 · 2026-11-11
- 对 p(doom) 不买账：一次性事件上贴概率有多荒谬 — GabGarrett · 2026-11-11
- Altman 称癌症十年内成历史，网友扒其全身行头近 5 万美元 — morqon · 2026-11-11