AI 灭世风险争论:真正危险的是拿模型的人而非模型本身
arian_ghashghai · x · 2026-09-10
回应「AI 导致人类灭绝的场景到底是什么」的提问，arianghashghai 给出一个哲学化的观点：人们恐惧「模型」带来混乱与毁灭，实质是恐惧掌握模型的人会做什么。
- 他从启蒙运动切入：ASI 可视为启蒙理性主义的终局，而多数启蒙哲学家把人的自然状态视为「有理性的狼」，需要强制度约束
- 如果普通个体可能获得（哪怕暂时）凌驾于这些制度之上的工具，按我们自己的主流哲学，就应假设有人会出于自利而滥用
- 他补充这一思路也可追溯到文艺复兴时期马基雅维利的《君主论》
「漫话AGI」频道最新
- 非技术用户眼里 AI 就是高级搜索，没人关心 agent 叙事 — bendee983 · 2026-09-10
- 保罗·克里斯蒂亚诺加入 OpenAI 董事会，AI 风险进入大众时刻 — NathanpmYoung · 2026-09-10
- Beff Jezos 称 Anthropic 或「合成生物武器」推动监管俘获 — AIFlow_ML · 2026-09-10
- 粪金龟与蚂蚁复杂度相当：基准测试量不出集体智能差距 — sebkrier · 2026-09-10
- T.J. Clark 新论:旧石器洞穴壁画是对语言霸权的反抗 — jjvincent · 2026-09-10
- Billionaire Gurley calls for using "Five Whys" to question AI doomsayers — JosephJacks_ · 2026-09-10