Reddit 借 Good 1965 论文解释为何资本疯狂涌入 AGI
ProxyLumina · reddit · 2026-07-28
这条帖子引用了 Irving John Good 1965 年关于“超智能机器”的经典表述，用它来解释为什么今天会有如此巨额资本涌入 AI。
帖子认为：
- 超智能可能成为“最后一项人类发明”：一旦机器的智力超过人类，新的科学和技术突破就可能由机器自己持续生成。
- 对齐决定这条路径是否可行：Good 原文里“机器要足够听话，告诉我们如何控制它”的 caveat，说明如果系统不愿与人类价值协作，这种未来就不可能成为安全的工具。
「漫话AGI」频道最新
- Miles Cranmer 演讲：如何在 AI 时代避免「大脑萎缩」 — Scobleizer · 2026-10-16
- AI 产品表层缺陷恰好掩盖了其根本设计缺陷 — lescarr · 2026-10-16
- IMF 官员:全球金融市场韧性超预期,很大程度归功于 AI 乐观情绪 — kernelangus420 · 2026-10-16
- 只看内容不实验,AI 能反推出人脑结构吗? — rickasaurus · 2026-10-16
- Vals RSI 指数外推：Google 模型或于 2027 年 10 月达 130% 自研水平 — HaydnBelfield · 2026-10-16
- Gowers 总结：我没有 p(doom)，但也不敢说它接近零 — michael_nielsen · 2026-10-16