剑桥教授 Krueger 列四大技术难题,呼吁无限期暂停前沿 AI 开发
DavidSKrueger · x · 2026-11-10
剑桥大学 AI 安全研究者 David Krueger 分享他自称「可能最重要的一页幻灯片」,主张应寻求立即、无限期、国际性的前沿 AI 开发暂停(moratorium)。
幻灯片给出两大类理由:
- 技术问题:我们不知道 AI 如何运作(可解释性)、无法阻止它行为失当(对齐)、无法确保失当时仍受控(控制)、无法预判它何时会失当(评测)
- 社会问题:人类被边缘化、权力逐步流失、权力集中、「我们到底想要什么」
核心结论:不能指望在死线之前解决这些问题——因此主张现在就暂停。
「漫话AGI」频道最新
- Nat Lambert:乐见更多实验室与 Anthropic 竞争开放 AI 研究能力 — natolambert · 2026-11-10
- 2007 年视频流传：Larry Page 早在 20 年前就预言了苦涩教训 — juanbenet · 2026-11-10
- Diamandis:数据中心遭抵制是 AI 最好的事,倒逼社区共融设计 — PeterDiamandis · 2026-11-10
- Mythos 5.2 在 Remote Labor Index 达 41%,远超 Opus 4.8 的 8% — peterwildeford · 2026-11-10
- 求职者开手机 AI 现场作答面试题,视频疯传引热议 — TansuYegen · 2026-11-10
- 从马尔萨斯陷阱到大分流:工业革命分配不均对 AI 时代的镜鉴 — NinaDSchick · 2026-11-10