Matthew Burt：没人知道如何对齐超人类模型
MatthewJBar · x · 2026-11-11
Matthew Burt 重申领域内主流判断：安全进展远远落后于能力进展，这一定位连各大实验室领导层的公开表态也认同。他的核心论点直白——没有人知道如何对齐超人类模型，甚至对齐当前模型也做不到。
他引用 @soundboy 2024 年为英国《金融时报》制作的一张图，认为那张图至今仍准确描述了安全与能力之间的落差局面。该帖引发 Hobbhahn 关于「能力有配方、安全没有」的回应讨论。
所属事件:安全研究者：对齐进展远落后于能力提升(4 条相关)→
「漫话AGI」频道最新
- Sayash Kapoor 等三位学者创立非营利研究组织 STABL — random_walker · 2026-11-11
- Yacine 喊话：别迷信实验室论文，要从第一性原理思考 — yacineMTB · 2026-11-11
- 「因幻想的 x 风险不缴 401k 是数学不及格」引争论 — inductionheads · 2026-11-11
- Beff 再批「减速主义」：数据中心正遭遇当年核电式污名化 — beffjezos · 2026-11-11
- 创始人自述：放弃盈利 YC 公司，两年无薪投身 AI 安全预警 — jeremiecharris · 2026-11-11
- 研究员:人类对 AI 仍存一项优势——敢于说出「异端」观点 — JeremyNguyenPhD · 2026-11-11