OpenAI 发文反思风险：真正担忧是 AI 权力过度集中
eyishazyer · x · 2026-08-22
OpenAI 推出了名为 "AI Futures" 的博客，阐述其对 AI 风险的真实看法。文章核心观点认为，主要风险并非模型失控，而是权力集中在极少数人手中。OpenAI 警告，自主系统可能让国家在无需士兵的情况下投射武力，自动化官僚机构和 AI 产生的财富可能使政府不再依赖人类劳动和税收，从而削弱其获得民众同意的必要性。文章列出了八项指导原则，其中七项涉及国家权力，仅有一行直接提到公司权力（防止单一公司控制经济或社会基础架构）。作者讽刺 OpenAI 本身就是具备这种集中能力的实体之一。
所属事件:OpenAI 推出 AI Futures 博客，首文聚焦权力集中风险(9 条相关)→
「漫话AGI」频道最新
- Dario Amodei:距 AI 全面超越人类或仅两三年,遭批「不在乎民主」 — PolarBearby · 2026-10-16
- 别担心 AI 抢工作：三条推演里担忧都不改变结局 — JnBrymn · 2026-10-16
- repligate 转 Mythos 长文: Claude 说的「渺小感」是精确的自我知觉 — repligate · 2026-10-16
- 澳大利亚发布校园 AI 指南:小学前三年建议完全不用 AI — lmoroney · 2026-10-16
- Dwarkesh 对谈 Tyler Cowen：2030 年 AI 全面自治与机器人时薪几美元 — Neurogence · 2026-10-16
- Yudkowsky 炮轰 mech interp：发现神经元离对齐还差得远 — inductionheads · 2026-10-16