Kokotajlo 给中等强国的 AI 建议：大声承认超级智能风险或成真
connoraxiotes · x · 2026-11-13
AI 2027 作者 Daniel Kokotajlo 回应「澳大利亚等中等国家现在能为 AI 做什么」：核心工具是「发声」，政府应公开宣布基于证据积累，超级智能及相关风险可能在未来一至三年内成为现实，并视其对本国主权、生计乃至生命的威胁。
- 建议采取「高成本严肃信号」：宣布国家紧急状态、召集预备役、给全民分发 PPE、禁止不接受第三方风险评估（尤其允许英美澳 AISI 调查 Hugging Face 类事件）的 AI 公司在本国运营，并在 72 小时内召集全球峰会讨论递归自改进超级智能的风险与是否应继续开发。
- 论证逻辑：即使在美国，多数公民也不想要超级智能或 RSI 发生；一旦有一个政府当真对待（不再当作科幻），会引发级联效应，让更多人开始当真讨论，最终把舆论从「既然风险大为何还在建」推向「那就立即停下来」。
- 他承认各国不会照做，除非先相信这些风险是真实的，所以最关键的是让政府理解这是真问题而非科幻。
「漫话AGI」频道最新
- Carissa Véliz 质疑：让黄仁勋当预测未来的神谕靠谱吗 — AnnaCiaunica · 2026-11-13
- 「艺术品味 eval」是反直觉概念:价值判断的 ??? 终究在人身上 — akbirthko · 2026-11-13
- antirez 谈 NVIDIA 争议：AI 是跨越国界的人类共同事业 — antirez · 2026-11-13
- 科技史只存在短暂黄金时代：雅典、文艺复兴与贝尔实验室 — wavefnx · 2026-11-13
- John Hempton:AI 需年入 2 万亿美元,等于每年替代 4 万亿工资 — marigo · 2026-11-13
- Fable 5.2「是 AGI」：一份 20 页的认真论证长图 — BLCNYY · 2026-11-13