「安全不是模型的属性」:90% 是人类运营问题的教训
joshua_saxe · x · 2026-09-08
joshuasaxe 继续其安全观论述:即便在具体安全事件中,90% 以上的问题属于人类运营层面。他指出在 RL 下探索模型策略空间必然会触及不安全区域,应在监控运营与基础设施安全上提前准备,未加护栏的测试同样可预期。
- 结论:危险潜能与社会动态结合才 manifests 危害,这正是「安全不是模型本身的属性」的核心含义。
所属事件:Hugging Face 事件引发「模型属性 vs 人祸」安全之辩(8 条相关)→
「漫话AGI」频道最新
- OpenAI 收购 Orchestra Bio,AI agents 进军药物研发 — dl_weekly · 2026-10-27
- 学者争论：现行 LLM 远超 GPT-4，但期刊审稿延迟挡住了新模型 — DeryaTR_ · 2026-10-27
- Venkatesh Rao 新文:学会驾驭你自己的大脑 — jger15 · 2026-10-27
- 老工程师回望手写代码时代:AI 接管后,新生代再也体会不到这些时刻 — bendee983 · 2026-10-27
- Luiza Jarovsky：AI 系统不是也永远不会是我们的朋友 — LuizaJarovsky · 2026-10-27
- 投资人 Lex Sokolin：当 AI Agent 替你选银行，品牌好感失效 — LexSokolin · 2026-10-27