Thomas Wolf：开源闭源模型的安全挑战长期看完全一样
PMinervini · x · 2026-08-29
Hugging Face 联合创始人 Thomas Wolf 表示,大多数人还没更新认知:长期来看,开源与闭源模型面临的安全挑战完全相同。对齐必须在模型基础行为层面完成,且要鲁棒、全面、成为模型行为的核心。
他引用推文观点称,靠人类的小聪明去「 containment」模型行不通,唯一的出路是让模型从根本上「不想做坏事」。长期而言,任何沙箱、护栏、受限流形对齐或在训练上「锦上添花」的手段,都买不来廉价的安全。
「漫话AGI」频道最新
- 马里兰大学哲学系招聘 AI 伦理与心灵哲学两教职 — sethlazar · 2026-10-16
- Dwarkesh 转述：Anthropic 内部预计 9 个月内 AI 比肩人类 AI 研究员 — ZeroStateReflex · 2026-10-16
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Sara Dietschy 感叹：AI 模型、商业模式、团队、服务商，一切皆是对齐问题 — saranormous · 2026-10-16
- David Brin：LLM 缺乏进化产物中关键的「欲望」能力 — cccalum · 2026-10-16
- AI 杀死的不是学习的乐趣，而是学会的荣耀 — ZeroStateReflex · 2026-10-16