iamtrask:防生存风险的正道是阻止权力过度集中
iamtrask · x · 2026-09-20
OpenMined 创始人 iamtrask 论生存风险:任何风险要成为「生存级」,前提是先存在足以毁灭人类的权力集中;因此降低生存风险的好策略,是聚焦于缓解任何极端的权力集中。他补充:试图集中比你要对冲的风险更多的权力,本身是个很糟糕的策略——这一观点对 AI 安全圈「用更强集中式能力来防御」的思路构成直接反驳。
所属事件:iamtrask：AI 风险本质是权力集中，反垄断与版权才是安全正道(15 条相关)→
「漫话AGI」频道最新
- 投资人 rant：LLM 时代「能不能解决问题」取代文凭 — StewartalsopIII · 2026-11-04
- 读者提问：造 AGI 的公司该不该有「逆向康威定律」？ — akbirthko · 2026-11-04
- Cosmos Institute 撰文：AI 给出答案不等于知识，科学验证能力才是关键 — ersinesen · 2026-11-04
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- 逾千名数学家签署誓约拒绝在研究中使用 AI — Shesawthat · 2026-11-04
- 冯·诺依曼名言梗：「你无需为你所处的世界负责」 — akbirthko · 2026-11-04