安全老兵致信 Hinton：中心化 AI 比开源生态更危险
nptacek · x · 2026-09-20
一位有二十年经验的安全从业者在与 Yann LeCun、Geoffrey Hinton 的对话中警告：中心化 AI 远比健康的开源生态更危险。
他的核心论点：
- 中心化系统倾向于依赖「隐匿式安全」（security through obscurity），这在实践中从不管用；
- 恶意行为者不会因为监管或暂停训练的承诺而停下，而守规矩的「好人」反而会被束缚手脚；
- 他在网络安全领域二十年间反复见证这一模式——隐匿式安全直接导致了如今勒索软件横行的威胁环境。
结论：AI 安全不能重蹈网络安全的覆辙，开源生态反而是更健康的风险分散方式。
「漫话AGI」频道最新
- AI 圈热议：让孩子死磕的赛道，等他们出来时可能已不存在 — akbirthko · 2026-09-20
- Reddit 热议:ASI 会不会因怕身处模拟测试而永远伪装对齐 — Over-Landscape-5892 · 2026-09-20
- Reddit 讨论:RSI 或将催生更多未饱和的 scaling 新轴 — Robos_Basilisk · 2026-09-20
- Navier-Stokes 研究者称 AI 进展太快,预测窗口已缩至三个月 — victor_explore · 2026-09-20
- Oliver Curry 炮轰有效利他主义：从未给出利他的好理由 — mjdramstead · 2026-09-20
- 信念由局部激励塑造而非理性推导，何时该看重谁的判断有讲究 — nabla_theta · 2026-09-20