iamtrask：开源闭源都不是关键，「单边控制」才是 AI 安全真问题
iamtrask · x · 2026-09-14
前 OpenAI 研究员 iamtrask 提出观点：开源与闭源之争偏离了 AI 安全的核心。真正的问题是「单边控制」——闭源 AI 被一家公司单边控制，开源 AI 被任何拿到副本的人控制，失控 AI 则被 AI 自己控制。他认为 99.999% 的 AI 安全辩论其实都在讨论「谁该单边控制超级智能」，而世上没有谁值得信任到能单边控制超级智能，唯一答案是集体控制——而且集体控制更安全、更准确、成本更低。
所属事件:iamtrask提出「集体控制」框架重构AI安全辩论(8 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31