可幸存灾难能拿拨款,ASI 风险却不在政策预算逻辑之内
scifi_tessa · x · 2026-09-15
scifitessa 在与 ramez、davidmanheim 的讨论中提出:ramez 的框架依然成立——政策制定者可以为「留有幸存者的灾难」做预算。灭绝论断能换来报纸评论版,但真正签署的拨款针对的是可幸存版本的风险。她认同「平淡的」生物风险和 AI×生物风险足以支持数十亿美元的生物防御投入,但这无助于应对 ASI:再聪明也不要幻想靠小聪明战胜一个比你聪明 100 倍、快 100 倍的东西。
所属事件:安全圈激辩AI风险叙事：灭绝论还是灾难论更能推动政策(7 条相关)→
「漫话AGI」频道最新
- 又一名 Google AI 安全研究员离职,警告人类可能面临生存风险 — Puzzleheaded-King584 · 2026-09-15
- 资深企业科技评论人:AI 实验室集体喊「减速」是精心包装的公关转向 — DavidLinthicum · 2026-09-15
- Stewart Alsop 质疑 Netflix AI 末日纪录片：末日论是营销套路 — StewartalsopIII · 2026-09-15
- Netflix AI 纪录片上映两天后,英王召集 OpenAI 等起草 AI 宪章 — StewartalsopIII · 2026-09-15
- 60 余位欧洲专家警告:欧盟仅占全球 AI 算力 5%,美国占 75% — anselm · 2026-09-15
- Ben Goertzel 硬怼 Dario 的 AI 放慢提案:现实不会答应 — bengoertzel · 2026-09-15