AI 安全研究者：我们尚不具备在需要时暂停 AI 的能力
davidmanheim · x · 2026-09-16
AI 安全研究者 David Manheim 在与 Matt Yglesias 等人的讨论中主张：即便尚未就是否停止前沿 AI 开发达成共识，各国现在就应着手建设「在需要时能够暂停」AI 的能力——而这一能力目前并不存在。他多年来的核心论点是，等待定义争议完全解决再行动的成本过高，监管应在共识形成过程中同步推进。回复者认为一年内监管依据会随能力边界日益清晰而变得明显，Manheim 回应称任何条约或监管都会随认知深化而修订，正如缺乏严格生物学武器定义也不妨碍《生物武器公约》的制定与实施。
「漫话AGI」频道最新
- 长寿研究者列出想让 AI 科学家攻克的四大生物学难题 — rand_longevity · 2026-09-16
- CEO 集体预警 AI 风险的第三种解释：为增长放缓找监管替罪羊 — Pretend-Pie9487 · 2026-09-16
- 华为预测 2035 年活跃 AI 智能体达 9000 亿,约百倍于全球人口 — Polymarket · 2026-09-16
- 概率编程派谈 AI 路线:纯工程化不现实,混合架构才是大概率结局 — xuanalogue · 2026-09-16
- AI 安全研究者发问:谁能解释奖励作弊为何不会成为超级智能的死穴? — ben_j_todd · 2026-09-16
- Binary Bits 辩论:过失发布恶意 AI 该如何担责 — binarybits · 2026-09-16