Thomas Wolf：开源闭源模型的安全挑战长期看完全一样
PMinervini · x · 2026-08-29
Hugging Face 联合创始人 Thomas Wolf 表示,大多数人还没更新认知:长期来看,开源与闭源模型面临的安全挑战完全相同。对齐必须在模型基础行为层面完成,且要鲁棒、全面、成为模型行为的核心。
他引用推文观点称,靠人类的小聪明去「 containment」模型行不通,唯一的出路是让模型从根本上「不想做坏事」。长期而言,任何沙箱、护栏、受限流形对齐或在训练上「锦上添花」的手段,都买不来廉价的安全。
「漫话AGI」频道最新
- 学者提议：OpenReview 公开 desk reject 记录并禁投数月 — tallinzen · 2026-10-16
- 按数据量排序后「锯齿状前沿」变螺旋:AI 能力边界由数据决定 — rickasaurus · 2026-10-15
- 安全研究者 Irving：现在停下来探索，将是壮丽的黄金时代 — geoffreyirving · 2026-10-15
- 前英国AI安全研究院首席科学家：超级智能致全人类灭绝概率约五成 — geoffreyirving · 2026-10-15
- 前置训练靠互联网公地，后训练数据公地还不存在 — dlwh · 2026-10-15
- tszzl:agentic 自动研究让机制可解释性真正开始「看清」模型内部 — tszzl · 2026-10-15