Marius Hobbhahn：能力提升有配方，鲁棒安全还没有
MariusHobbhahn · x · 2026-11-11
Merlin AI 研究员 Marius Hobbhahn 回应 Matthew Burt 的质疑，承认「安全进展远落后于能力进展」这一说法难以整体量化，希望有更严格的科学评估手段。
但他的高层判断是：研究人员大体知道如何用一套有效配方造出更强能力的系统，却没有针对鲁棒安全的对应配方。他给出的证据包括 Hugging Face 近期安全事件及后续类似事件，以及模型在分布内对齐评测上表现良好、但在分布外（OOD）更容易失准的现象。
所属事件:安全研究者：对齐进展远落后于能力提升(4 条相关)→
「漫话AGI」频道最新
- Sayash Kapoor 等三位学者创立非营利研究组织 STABL — random_walker · 2026-11-11
- Yacine 喊话：别迷信实验室论文，要从第一性原理思考 — yacineMTB · 2026-11-11
- 「因幻想的 x 风险不缴 401k 是数学不及格」引争论 — inductionheads · 2026-11-11
- Beff 再批「减速主义」：数据中心正遭遇当年核电式污名化 — beffjezos · 2026-11-11
- 创始人自述：放弃盈利 YC 公司，两年无薪投身 AI 安全预警 — jeremiecharris · 2026-11-11
- 研究员:人类对 AI 仍存一项优势——敢于说出「异端」观点 — JeremyNguyenPhD · 2026-11-11