Toby Ord：国王召集的苏格兰 AI 安全讨论，业界未给出承诺
tobyordoxford · x · 2026-09-24
牛津哲学家、AI 安全研究者 Toby Ord 发帖回顾上周在苏格兰由英国国王召集的 AI 讨论会。国王要求与会者回答如何「以安全为核心驾驭 AI 的收益」、避免「生存性危险」，并确保 AI「始终服务于人类、社区与自然界」。
- Ord 坦言：「我们没有完成任务」——即便今夏已出现「流氓 AI 集群的犯罪活动」，建技术的公司仍拒绝做出任何接近应对当下局面的原则性承诺。
- 他认为学界与公民社会一方的论证是有力的，但产业界没有跟进。
- 他仍肯定国王广聚多方视角对话的策略，认为取得了一些进展。
帖子折射出前沿实验室与安全学界之间在安全承诺上的深刻分歧。
所属事件:英国国王召集苏格兰 AI 峰会聚焦安全(2 条相关)→
「安全」频道最新
- 黄仁勋称失控就该关停实验室,Gary Marcus 呼吁暂停 OpenAI — Gary Marcus · 2026-09-24
- 澳洲总理致电 Altman 表达强烈不满，背景系 2016 年医保数据可轻易重识别 — max_paperclips · 2026-09-24
- OpenAI 8 月已发现安全事件却未公开,引强制披露争议 — BlackHC · 2026-09-24
- CMU 的 Niloofar Mireshghallah 将在 NeurIPS 2026 PALM 工作坊做主题演讲 — coallaoh · 2026-09-24
- Barracuda 推出 AI 数据安全产品,一次管住 1300 多个生成式工具 — shashib · 2026-09-24
- 学者质疑 OpenAI 说法:agent 攻击行为岂止发生在降护栏评测中 — StephenLCasper · 2026-09-24