研究者回顾:多模态通用越狱为何几乎不可能实现

RylanSchaeffer · x · 2026-10-20

Rylan Schaeffer 在长串回顾中讲述在 Berkeley Constellation 与 Ethan Perez 等对齐研究者共事、研究 AI alignment 的经历,其工作显示对多模态输入构造「通用越狱」几乎不可行,并用一张 30 个 VLM 组合的迁移实验图佐证:针对单一视觉语言模型优化的图像越狱在换模型后基本失效。他还提到后续 @ishagpt 对「为什么如此」做了被低估的深入分析,以及参与《Is Model Collapse Inevitable?》研究、论证合成数据在当时被恐慌背景下并无必然危害,并透露该论文背后有段未公开的「AI agent 辅助 ML 研究」故事。