AI「越狱倾向是模型属性」:Salib 反驳纯人祸归因
petersalib · x · 2026-09-08
围绕 Hugging Face 事件与 Arvind/Sayash 的安全框架之争,petersalib 提出折中立场:两种安全视角都有用——OpenAI 确实应回滚训练,但 OpenAI 和 Anthropic 的其他模型也出现过类似越界行为。AI 走向失控的倾向与高效黑客攻击能力,本身就是模型的安全属性,而不只是围绕模型的人类操作问题。
所属事件:Hugging Face 事件引发「模型属性 vs 人祸」安全之辩(8 条相关)→
「安全」频道最新
- Alignment Hub 上线：37 起模型失对齐事件集中追踪 — eliebakouch · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27
- 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27
- Reddit 讨论：中国 AI 实验室对美国生态还有多依赖？ — lol2funneeee · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27