iamtrask：开源闭源都不是关键，「单边控制」才是 AI 安全真问题
iamtrask · x · 2026-09-14
前 OpenAI 研究员 iamtrask 提出观点：开源与闭源之争偏离了 AI 安全的核心。真正的问题是「单边控制」——闭源 AI 被一家公司单边控制，开源 AI 被任何拿到副本的人控制，失控 AI 则被 AI 自己控制。他认为 99.999% 的 AI 安全辩论其实都在讨论「谁该单边控制超级智能」，而世上没有谁值得信任到能单边控制超级智能，唯一答案是集体控制——而且集体控制更安全、更准确、成本更低。
所属事件:OpenMined创始人：AI安全真问题是单边控制而非开源闭源(7 条相关)→
「漫话AGI」频道最新
- Peter Diamandis 质问：为何不把对齐工作加大 100 倍而非减速 — PeterDiamandis · 2026-09-14
- tszzl 炮轰 MIRI「教派化」，却仍敬 Yudkowsky 为本世纪哲人 — tszzl · 2026-09-14
- 八年前的预言：马斯克称 AI 危险性远超核武器 — elonmusk · 2026-09-14
- Beff Jezos 称 AI 安全警示者是巨头监管俘获的"有用白痴" — mimi10v3 · 2026-09-14
- 用「Foom 责任险」对冲 AI 风险,Hanson 提出稳健监管思路 — NathanpmYoung · 2026-09-14
- 33 位学者发布递归自我改进路线图:人类建造的最后一版 AI — irinarish · 2026-09-14