政策人士追问 Anthropic：何种条件下会单方面暂停 AI 开发？
dgrobinson · x · 2026-09-25
NAI 政策研究员 Nathan Calvin 翻出 Anthropic 2023 年安全纲领《Core views on AI safety》，并公开追问两个尖锐问题：Anthropic 是否认为目前已有「充分证据」排除我们正处于悲观或接近悲观的对齐情景？以及在什么条件下，Anthropic 会单方面停止前沿模型开发？
这一追问把 Anthropic 当年的书面安全承诺与其当前的实际开发节奏对照，触及对齐承诺的可验证性问题。
「漫话AGI」频道最新
- 英国新设 AI 经济学研究所招聘15名经济学家,研究 AI 经济影响 — TaniaBabina · 2026-11-11
- Not Boring 长文：AI 具备泡沫三大特征，恰是泡沫形成的经典剧本 — Not Boring (Packy McCormick) · 2026-11-11
- 热帖：五年「再等等」之后，2026 年公司终于摊牌 — hey_abusiddik · 2026-11-11
- Jeremy Howard：LLM 是在「扮演」理解，如中文屋里的那个人 — Machine Learning Street Talk · 2026-11-11
- 「和你的数据聊天」是伪需求？关键差异在聪明的同事 — vboykis · 2026-11-11
- Ben Todd:AI 任务时长随能力呈超指数增长,不止营收 — ben_j_todd · 2026-11-11