模型去限制被认为容易做且难以防守
Justin_Halford_ · x · 2026-07-26
模型去限制很容易做，但不一定有防守收益
这条回复延续了同一观点：开源模型发布后很快就可能被去掉安全限制，而网络安全场景天然更偏向攻击方。
- 评论者表示，自己没见过真正“好用且安全”的去限制版本。
- 他们认为，在网络和生物领域，“防守方也会受益”的论点站不住脚。
「安全」频道最新
- RL 会让模型形成「分裂人格」？1a3orn 质疑机制可解释性研究缺位 — 1a3orn · 2026-09-23
- 业余讨论者自提外对齐方案，询问 AI safety 圈会否买账 — jessi_cata · 2026-09-23
- 微软 AI CEO Suleyman 签署亲人类 AI 宣言，百万人联署 — tegmark · 2026-09-23
- 用户首试 Meta Muse,它张口就是他童年宠物狗的名字 — matt_slotnick · 2026-09-23
- Reason 撰文炮轰:AI 安全运动正在让 AI 变得更不安全 — Bostonian · 2026-09-23
- 「末日论是监管护城河」：开源阵营反击限制开放权重模型呼声 — AlexTensor · 2026-09-23