前 OpenAI 研究员提案:公开算力分配并接受第三方审计
sjgadler · x · 2026-11-18
AI 政策研究者 Nathan Calvin 提出,若 AI 公司真想为前沿模型竞赛「踩刹车」、防范失控的递归自我改进(RSI)风险,第一步应是定期披露多少算力用于加速 AI 研发等递归自我改进工作,并交由第三方审计核实。
要点:
- 政府可以且应当强制要求此类披露,但公司无需等待监管,可立即自愿开始。
- 转发者认同「经验证的算力分配披露」几乎是任何脱离超级智能竞赛路线的第一步,且实验室可自行落实。
这是目前业内关于算力治理的具体可执行方案讨论,值得安全/治理方向读者关注。
所属事件:研究者提案:AI 公司公开算力分配并接受审计(2 条相关)→
「漫话AGI」频道最新
- AI 足够颠覆时,中美会像面对外星人一样结盟吗 — shakoistsLog · 2026-11-18
- 限制递归自我改进算力:有研究者提议 90% 算力须用于公益 — trevposts · 2026-11-18
- 企业安全防不住中国,就不该开发会被窃取即构成国安风险的 AI — trevposts · 2026-11-18
- AI 助理 Fo 四周帮用户发现并预订 3.5 万家商户 — thetripathi58 · 2026-11-18
- 模型知道自己被评估时,对齐 eval 还能信吗 — trevposts · 2026-11-18
- 硅谷反思 Leopold Aschenbrenner:制造声势容易,多年交付回报难 — PAstynome · 2026-11-18