Toby Ord：AI 最大风险藏在企业内部部署的模型中

Ben Todd 转述并展开 Toby Ord 的观点：AI 带来的失控与权力集中风险主要来自政府和企业内部部署的模型，而非公开发布的模型，因此强制部署前安全测试对缓解这类风险作用有限。Ben Todd 进一步指出，部署前测试真正能有效缓解的是滥用风险，但他认为滥用风险在防范优先级上属于次位，尽管其后果仍可能非常严重。

2026-11-12 ~ 2026-11-12 · 3 条相关

• 观点争锋：AI 失控与权力集中风险主要藏在企业内部部署的模型里 — ben_j_todd · 2026-11-12
• Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
• 部署前测试真正缓解的是滥用风险，但优先级应居次位 — ben_j_todd · 2026-11-12