x-risk 研究者提醒：还有比灭绝风险更可怕的 s-risk
jacyanthis · x · 2026-09-10
AI 安全研究者 jacyanthis 发推称：如果你刚了解到存在性风险（x-risks），那还不知道 s-risks（suffering risks，苦难风险）——即未来智能系统可能造成大规模无意义痛苦的情形，其严重性论证上不亚于甚至超过灭绝风险。这是一条安全圈的圈内梗式提醒，指向关于风险分类的讨论。
「漫话AGI」频道最新
- Agent 如何分辨真实世界与训练环境？一个新奇的哲学难题 — CatAstro_Piyush · 2026-09-10
- Anthropic 极端推演:2030 年 AI 拉动美国 GDP 增 32%,知识工作者失业率 17.9% — robleclerc · 2026-09-10
- Steven Pinker 等调侃：媒体偏爱 AI 灭绝论却无视贫困消减 — sapinker · 2026-09-10
- AI 普及后最可能的风险：对手注入恶意指令造成伤害 — tristanbob · 2026-09-10
- 2023 调查:1/3 ML 研究者认为 AI 致人类灭绝概率超 10% — ben_j_todd · 2026-09-10
- 放慢 AI 不现实，更可行的是加速安全研究投资 — tristanbob · 2026-09-10