牛津学者 Toby Ord：AI 安全措施为何不需要「极高确定性」才值得做
tobyordoxford · x · 2026-11-06
牛津哲学家、《The Precipice》作者 Toby Ord 在与 Ramez Naam、Andy Masley 的争论中反驳「AI 安全措施只有在 x-risk 具备极高确定性时才合理」的观点。
他的论证用了一个类比：医生需要多大的确定性才能断定一种新化合物会毒死人，才坚持在拿到更好安全性证明之前不把它放进食品？言下之意——在事关无辜旁观者生命的重大利害上，当更精确的风险估计不可得时， relying 相关领域专业人士的粗略风险估计就足以支撑预防措施。
这是 AI x-risk 认识论争论中一个有代表性的「预防原则」立场表达。
所属事件:牛津学者 Toby Ord：AI 安全措施无需极高确定性才值得做(2 条相关)→
「漫话AGI」频道最新
- METR 发布报告：评估 AI 自身加速 AI 研发的风险 — GaryMarcus · 2026-11-07
- Benedict Evans:大厂只在守老本行时赢,跨界做产品屡屡惨败 — Aiden_Tech_Ai · 2026-11-07
- 「起飞始于 11 月 24 日的 Opus 4.5」：能力指数增长论又刷屏 — scaling01 · 2026-11-07
- AI 时代创作者困局：冒名顶替综合征蔓延，创意作品正被 AI 洪水稀释 — sull · 2026-11-07
- 「今天从零创办公司，我们不会有这么多人」——AI 公司规模反思引热议 — bigdata · 2026-11-07
- 设计工程师用 AI 自动出图，砍掉自己年值 5.6 万美元的制图工作 — luisdans · 2026-11-07