别把未来模型偷换成失控智能
sebkrier · x · 2026-07-19
作者转发并评论一篇关于“超级智能会毁灭人类吗”的报道，核心观点是：人们常把“未来模型会更自主”这件事，偷偷延伸成“它们必然会与人类利益脱钩”。
他认为这种推理里混进了很多未经证明的前提。即使世界由更强的机器人/智能体“运行”，也不必然意味着它们不再充当人类利益的受托人；“超级智能”可以被想成不同的制度与文明形态，而不只有一种末日式结局。
「漫话AGI」频道最新
- Anthropic 风险表态遭误引，2030 年毁灭概率争议再起 — davidmanheim · 2026-09-11
- 经济学家拆解 Anthropic 增长模型:能写出 15% GDP 增长,不代表会发生 — sebkrier · 2026-09-11
- Cohere Labs 推出交互工具:测 178 种职业哪些任务会被 AI 自动化 — Cohere_Labs · 2026-09-11
- AI 安全人士上 SkyNews 担忧不平等、滥用与社会激励结构 — schwarzjn_ · 2026-09-11
- 风投人士讽 AI 末日论：与疫情恐慌话术如出一辙 — StewartalsopIII · 2026-09-11
- Anthropic 内部爆料:并非人人都持高 p(doom) 灾难论 — anpaure · 2026-09-11