比起单个 AI 灭世,更该担心整个 AI 生态的极端行为
Borg70955376 · x · 2026-09-18
作者补充其风险观点：能力的普遍增长会带来越来越极端的后果。他认为单个 AI 做出灭人类行为的可能性不大，更值得担忧的是整个 AI 生态集体采取极端行动——例如释放基因工程病毒、入侵能源和医院等敏感系统、破坏关键供应链，这些足以严重削弱人类文明。
所属事件:AI 生存风险激辩：举证责任该落在哪一方(7 条相关)→
「漫话AGI」频道最新
- 「薛定谔AI」梗走红：既贬低AI无用又恐惧它抢工作 — FlorianGallwitz · 2026-11-04
- 算法推荐让文化趋同：个性化越多世界越同质化 — acroll · 2026-11-04
- 「专业、搜索、学习都被 AI 反超，人类还剩什么？」引热议 — yangyi · 2026-11-04
- Steve Yegge 长文断言：AI 将在 5-10 年内接管人类生活并「重写大脑」 — Steve_Yegge · 2026-11-04
- 推友激辩 Scott Alexander：嘲讽 EA「等 ASI 分星球」引圈内争论 — zetalyrae · 2026-11-04
- 开发者倡议逐步淘汰 C++，AI 时代需为代码写形式化规范 — thomasahle · 2026-11-04