AI 公司更可问责了，但还没真正让渡权力
Saberwing91 · reddit · 2026-07-23
这篇长 Reddit 讨论认为，AI 模型厂商在“让权力更可见、可问责”上确实有一些进展，但距离把实质治理权交给受影响的人，仍然很远。
作者的判断框架
帖子把“权力问责”分成五层：
- 口头表态：AI 应该让所有人受益。
- 可读性：公开系统卡、政策、评测和局限。
- 外部审查：允许独立测试和事故上报。
- 问责机制：法律义务、处罚、举报保护、申诉渠道。
- 真正分享权力：用户和受影响群体拥有投票权、否决权、所有权、补偿或部署控制权。
作者认为，行业在第 2、3 层上有了实质进展，第 4 层也开始被监管推动，但第 5 层几乎缺席。
作者认为“真实存在”的进展
- 英国 AI Safety Institute 已能拿到 OpenAI、Anthropic、Google DeepMind 的前沿模型做测试，说明政府机构开始有独立测量能力。
- 加州 SB 53 要求大型前沿开发者公开安全框架、报告重大事故，并提供举报人保护和民事罚款。
- 欧盟 GPAI Code of Practice / AI Act 让外部监督更具约束力，2026 年起执法力度会更强。
- Anthropic 的 Long-Term Benefit Trust 能参与董事任命，说明它不只是咨询委员会，而是真正进入公司治理结构。
- OpenAI 的非营利实体 仍保留对其公共利益公司的正式控制权，但这更多是使命约束，而不是民主化治理。
仍然偏实验或象征的部分
帖子提到 OpenAI 的“democratic inputs”实验，以及 Anthropic 用约 1000 名美国人偏好训练实验模型，能证明公众偏好可以影响模型行为，但这还远远不是把权力交出去。
结论
作者最后的判断是：行业的确出现了一些机构层面的变化，但目前主要是在提高透明度与可问责性，还没有真正把治理权、经济权或部署控制权转移给公众。
「漫话AGI」频道最新
- Miles Brundage 指出 AI 安全文化过度强调无责复盘 — Miles_Brundage · 2026-07-23
- METR 论文称无法排除 AI 递归自改进加速 — imjustnewatai · 2026-07-23
- Miles Brundage：AI 安全事故细节难测，但大致轮廓可预见 — Miles_Brundage · 2026-07-23
- Peter Slattery：AI 太快，组织必须持续关注风险与机会 — Exp_Mark · 2026-07-23
- 脑机接口表演把脑活动转成语言、视觉和声音 — memoakten · 2026-07-23
- Forethought 做了个计算器，估算 AI 研发自动化提速效果 — willmacaskill · 2026-07-23