paraschopra：abliterated 模型风险大，但大厂护栏同样让科学家受挫
paraschopra · x · 2026-10-28
paraschopra 提出一个安全两难：一边是删除拒绝机制的 abliterated 模型可被用于网络攻击或生物武器设计，令人担忧；另一边是主流模型的过度安全过滤——问任何沾边生物或安全的问题，Claude 就会把用户降级到旧模型。
他的核心论点：
- 如果模型持续拒绝「未知的探索方向」，普通研究者如何做前沿科学？Anthropic/OpenAI 自己却能使用拒绝率不同的内部版本，这构成不公平。
- 攻击者无论如何都会用 abliterated 模型，防御者该如何准备？
结论是这种不对称意味着要么全面禁止 abliterated 模型，要么让所有人平等获取——不能只让少数厂商独享「不拒绝」的版本。
「模型」频道最新
- GPT-6.1 Terra 定价对半砍，「9倍便宜」算账却对不上 — 2C_ornot2C · 2026-10-28
- FrontierCode 2 榜单引骂战：开源模型被指被选择性比较 — teortaxesTex · 2026-10-28
- Evil 27B 太危险?网友想让它做游戏又怕硬盘被清 — teortaxesTex · 2026-10-28
- DeepSeek V5 曝光被辟谣：只是 9 月底的 assert 测试代码 — teortaxesTex · 2026-10-28
- ChatGPT Pro 用量将砍半,Pro 用户吐槽补偿不够 — kimmonismus · 2026-10-28
- Gemini 发现的 softmax bug 修复方案被性质测试证伪 — brandondamos · 2026-10-28