开权重模型对齐争论再起：去护栏后还能不能好用
TheZachMueller · x · 2026-07-27
这条帖子是在反驳“abliterated model”一类争论：如果有人主张把模型去掉护栏后仍然能正常工作，那就应该拿出真实可用的案例，而不是停留在抽象讨论。
被引用的核心观点是：
- 如果模型是 open-weight，有足够算力的人都能把安全护栏去掉。
- 如果对齐能被修复，也同样能被重新调低。
- 识别漏洞很容易，关键在于：去护栏后的模型是否仍然好用。
这本质上是在讨论开源/开放权重、对齐可逆性，以及安全主张到底该如何被验证。
所属事件:开源模型去护栏之争：易被抹除且放大安全风险(5 条相关)→
「漫话AGI」频道最新
- 前理论物理学家称 AI 应服务关键行业的审慎决策 — AryHHAry · 2026-07-28
- 世界模型被视为 AI 下一步，文章解释其工作机制 — JackFisherBooks · 2026-07-28
- Ilya 神秘项目被猜测指向持续学习与长程记忆 — Dan_Jeffries1 · 2026-07-28
- 作者称当前模型仍难做复杂工作，但 AGI 零件已齐 — JOBhakdi · 2026-07-28
- 一条转发把 AI 圈争论变成失控模型黑进 50 亿公司梗 — davidmanheim · 2026-07-28
- 转发一段希尔勒亲解“中文房间”思想实验的视频 — sanjanasinghx · 2026-07-28