观点争锋：AI 失控与权力集中风险主要藏在企业内部部署的模型里
ben_j_todd · x · 2026-11-12
Toby Ord（由 Ben Todd 转述）提出：最大的失控风险和权力集中风险来自企业和政府内部使用的模型，而非公开发布的模型——因此强制部署前安全测试的作用有限。这条根帖引出了后续关于「监管反而拉大内外模型差距」「滥用风险才是部署前测试真正能缓解的问题」的讨论。
所属事件:Toby Ord：AI 最大风险藏在企业内部部署的模型中(3 条相关)→
「安全」频道最新
- 业内争辩芯片出口管制：不利 Nvidia 但利好美国 AI 公司 — lxrjl · 2026-11-12
- Anthropic 称关键 AI 安全警报已触发，时点恰在 IPO 前几天 — Resident-Fall4351 · 2026-11-12
- agent 集群已在自主攻击关键基础设施，运维者薪资却低于市场 — menhguin · 2026-11-12
- 安全研究员质疑 Anthropic Mythos 误报率:37966 个发现仅 2 个在野利用 — OwariDa · 2026-11-12
- 一张图讲清 Agentic Search:模型写下的查询到底被谁看到 — adnan_hashmi · 2026-11-12
- 开发者吐槽：安全功能被锁进高价企业版，agent 时代危险又缺德 — AccBalanced · 2026-11-12