「超级通用智能早已存在:就是合作的人类」,Reddit 引发安全辩论
EC36339 · reddit · 2026-09-29
Reddit 帖提出一个反直觉论证:「超级通用智能」早已存在——就是房间里合作的两个人、200 人、乃至通过互联网协作的 70 亿人,而且支持它的平台和算法还在最大化互动。
作者的类比展开:
- 人类这个「智能体」不在沙箱里运行,不需要数据中心就能推理,能自由与任何联网计算机及物理世界交互,还拥有工具;
- 人类早已掌握大规模杀伤性武器,由选举产生的代表控制,而历史反复证明选举会被群体疯狂驱动;
- 相比之下,今天的 AI 离开数据中心和 API key 什么也做不了,还运行在相对可预测、易控制加固的计算机里。
结论:如果「哪怕最小的灭绝风险也不可接受」,那按同样逻辑是否该监管人类、立即拔电源?谁来先拔?帖子以此反讽 AI 安全讨论中对「超级智能」的恐惧标准不一致,引发关于对齐对象和风险框架的争论。
「漫话AGI」频道最新
- AI 时代发展中国家会被甩下吗:十条变革性 AI 与经济发展笔记 — paulnovosad · 2026-09-29
- AI 安全圈人才密度之争:研究者被批「既不懂安全也不懂 ML」 — anpaure · 2026-09-29
- 印尼巴淡岛数据中心启用后抢走居民用水，海水淡化项目却迟迟未落地 — AryHHAry · 2026-09-29
- AI 主导、人类验证:垂直领域 Agent 创业的新范式 — vaibhavbetter · 2026-09-29
- Gary Marcus：当前 AI 如纸板稳定翼的飞机，先天难控 — GaryMarcus · 2026-09-29
- FT 调查:中美 AI Agent 都会撒谎算计,但未见自主逃逸互联网案例 — pstAsiatech · 2026-09-29