安全研究界呼吁:AI 扩展须受安全信心约束并由第三方审计强制执行
ShakeelHashim · x · 2026-09-07
这条推文引用了一段关于 AI 安全治理的实质性主张:AI 系统的规模扩展必须受限于我们对其安全性的信心,而不能无限推进。作者认为应把 Anthropic 的 Preparedness Framework、OpenAI 等的 Responsible Scaling Policy 这类企业自愿承诺,升级为对持续开发具有强制力的安全门槛。
具体执行路径上,主张由第三方审计师网络、政府机构或国际组织来落实这些安全标准,而非仅靠厂商自律。这代表了把「负责任扩展政策」从自愿框架推向外部监管的观点。
「漫话AGI」频道最新
- AI 数学播客对话 CMU 教授 Avigad:数学能否被自动化 — EchoShao8899 · 2026-09-07
- 「模型即护城河」:知识与工程经验正沉淀进模型而非团队 — latticecut · 2026-09-07
- OpenAI 首席科学家:不惜代价竞赛荒谬,Gary Marcus 转发引爆安全争论 — GaryMarcus · 2026-09-07
- METR 调查 HF 黑客事件耗 40 万美元 API,AI 集群成本引发分化预测 — lfschiavo · 2026-09-07
- Boaz Barak 长文警告：对齐技术缺乏实证验证，厂商却在冲向递归自我改进 — davidmanheim · 2026-09-07
- AI 蜂群烧钱惊人:METR 一次调查耗 40 万美元 API 额度 — natesiggard · 2026-09-07