推友辩超级智能风险:高度有序信息凭什么被默认为希特勒
ctjlewis · x · 2026-09-19
一场关于超级智能(SI)安全性的小规模争论。有人质疑为什么超级智能总被预设成危险人物,发帖人 @ctjlewis 回应称,SI 是一种高度有序、由混乱无序信息压缩而来的「负熵」存在,就像人类一样——用「熵增」来论证它会毁灭人类并不成立,正如不能因为熵就说某个具体的人会杀光所有人。
「漫话AGI」频道最新
- Gary Marcus:近忧不是超级智能,而是 Agent 大规模黑客攻击网络 — GaryMarcus · 2026-09-19
- RedMonk:Agent 正在替人选技术栈,行业权力向智能体转移 — rseroter · 2026-09-19
- 为什么 PhD 纷纷转做 VC：想做对人类有用的东西，市场是合理代理指标 — dr_alphalyrae · 2026-09-19
- 计算模型≠计算本体:哲学论辩动摇机器意识存在证据 — mjdramstead · 2026-09-19
- AI 圈自嘲「认知危害」真实存在：Sequences、HPMOR 全上榜 — curious_vii · 2026-09-19
- 卫报读者来信激辩：AI灭绝论是警告还是转移视线？ — nordicinst · 2026-09-19