Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源
ben_j_todd · x · 2026-11-12
Ben Todd 转述 Toby Ord 的观点并展开讨论：AI 带来的最大风险——失控与权力集中——主要来自政府和企业内部部署的模型，因此强制要求部署前测试对外部风险的收效甚微。更糟的是，这类监管反而会拉大「内部模型」与「外部可用模型」之间的能力差距，可能加剧权力集中。Ben Todd 补充：部署前测试主要有助于降低滥用（misuse）风险，但滥用风险在防范优先级上应居次位（尽管仍可能非常严重）。
所属事件:Toby Ord：AI 最大风险藏在企业内部部署的模型中(3 条相关)→
「漫话AGI」频道最新
- Pedro Domingos 调侃「Dario 定律」：所需算力也在指数增长 — pmddomingos · 2026-11-12
- Matt Pocock:能把业务讲清楚,AI 时代你就完成了半套自动化软件 — mattpocockuk · 2026-11-12
- 研究者提议:AI 进展评估应报告效率增益指标,而非只看最终跑分 — eliebakouch · 2026-11-12
- Bittensor 子网 NOVA 用「先做出药物资产」证明 AI 制药平台实力 — markjeffrey · 2026-11-12
- Vercel CEO Rauch:做好产品依然极度依赖专注、投入与注意力 — santiviquez · 2026-11-12
- dair-ai 主理人：真正的护城河是自建 eval,公司都将变 neolab — dair_ai · 2026-11-12