研究人员:为闭源模型开发的对齐技术对开源模型基本失效
BlancheMinerva · x · 2026-09-14
AI 安全研究者 Blanche Minerva 在与 @yonashav、@tszzl 的讨论中提出:目前为闭源模型开发的对齐技术,用到开源模型上要么效果更差、要么完全失效,不应假设闭源到开源的技术会自然迁移——尤其前沿实验室并不希望这种迁移发生,因此社区需要有意识地为开源模型投入开发专门的对齐方法。
所属事件:开源模型对齐之争：闭源技术能否迁移引发激辩(4 条相关)→
「安全」频道最新
- Frog and Toad 梗图讲透 HSM:密钥锁进硬件,服务器仍能让它签名 — rickasaurus · 2026-10-31
- 新论文「Heads Of Security」：定位注入攻击注意力头并改写其模式 — jonasgeiping · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- 亚马逊 Echo 取消本地语音存储，3月28日起全部上传云端 — alex_verem · 2026-10-31
- 美司法部首打 AI『幽灵学生』诈骗，查扣超 75 万美元 — Ars Technica AI · 2026-10-31
- 开发者称发现 LLM 内核代码 600+ 漏洞,Claude 以安全为由拒答 — pmddomingos · 2026-10-31