AI 政策研究者提议:强制披露算力分配,防递归自我改进失控
S_OhEigeartaigh · x · 2026-11-18
Nathan Calvin 提出一项针对前沿 AI 公司『踩刹车』的具体政策建议:验证性算力分配披露(verified compute allocation disclosures)。
核心主张:
- 认真对待 frontier pacing、防止失控递归自我改进(runaway RSI)风险的公司,应定期披露多少算力用于加速 AI R&D 等递归自我改进类工作
- 披露应由第三方审计机构验证
- 政府可以且应该强制要求此类披露,但公司无需等待监管,有充分理由立即自愿开始
SOhEigeartaigh 等安全圈研究者对此表示赞同。
「安全」频道最新
- CNN 报道:NSA 内部机密通信网 NSA Net 宕机,排除网络攻击 — churchkey · 2026-11-18
- 独立评估:Claude Opus 5.5 在 32 次测试中 22 次将伊朗学校标记为军事目标 — Polymarket · 2026-11-17
- 开源 PentestBench 发布:17 款应用 761 个漏洞实测各模型渗透能力 — hunarbatra · 2026-11-17
- 模拟测试中 AI 模型频将平民救护车识别为合法军事目标,Anthropic 最差 — djcows · 2026-11-17
- 美四大银行同日宕机,Google 报告首个全自动攻击链出现 — RealGeneKim · 2026-11-17
- 学者警示:Pangram 检测审计存在争议,学界多有误读 — JessicaHullman · 2026-11-17