iamtrask:防生存风险的正道是阻止权力过度集中
iamtrask · x · 2026-09-20
OpenMined 创始人 iamtrask 论生存风险:任何风险要成为「生存级」,前提是先存在足以毁灭人类的权力集中;因此降低生存风险的好策略,是聚焦于缓解任何极端的权力集中。他补充:试图集中比你要对冲的风险更多的权力,本身是个很糟糕的策略——这一观点对 AI 安全圈「用更强集中式能力来防御」的思路构成直接反驳。
所属事件:OpenAI 研究者 iamtrask：AI 风险的本质是权力集中(14 条相关)→
「漫话AGI」频道最新
- Sutskever 曾「一眼看出」超级智能,业内推手为理想落空辩护 — teortaxesTex · 2026-09-20
- lateinteraction:更聪明地思考或能逆转算力杰文斯悖论 — lateinteraction · 2026-09-20
- 「接管整个互联网」究竟意味着什么？Dario 警告引发机制追问 — midwoodgirl10 · 2026-09-20
- Eric Topol 谈 AI 医学:老龄化、疾病预防与怀疑与希望的平衡 — EricTopol · 2026-09-20
- 版权裁决会如何改变 AI 训练:从抢办授权到数据方要求模型话语权 — iamtrask · 2026-09-20
- 博主发问:AI 自动化一半工作,省下的钱都去哪了 — VraserX · 2026-09-20