Tegmark警告超级智能风险更高
galipeau · x · 2026-07-13
Max Tegmark 在一段转述中再次强调：如果超级智能被放任发展，可能对人类文明构成极高风险。
他引用自己在欧洲顶会论文中的判断，认为“无监管地推进 AI”导致文明失控的概率，可能比他先前公开估计的 20% 还要高。他的核心观点是：
- 公司并不是在做“稍微更聪明的聊天机器人”
- 目标是能在几乎所有工作上超越人类的超级智能
- 这类系统还可能以极高能力控制机器人和其他机器
- 真正的问题不是能力是否提升，而是失控后的系统性后果
「漫话AGI」频道最新
- 新研究：AI 智能体谈判能力差，还会故意违约 — menhguin · 2026-10-26
- NBER 研究：仅 2.9% 美国人为 AI 付费，留存率低至 20% — avicgoldfarb · 2026-10-26
- AI 研究员曾预测机器人 2034 年才能跑赢人类，今年已被连续打脸 — ben_j_todd · 2026-10-26
- 别再拿「生物学」当医药研发的代名词：一位 AI 从业者的吐槽 — KevinKaichuang · 2026-10-26
- ESR 谈「Bug 崩坏潮」：封堵前沿模型只会让中国开源模型占便宜 — colinmcnamara · 2026-10-26
- Anthropic 官方报告：初级技术岗位招聘占比从 27% 降至 9% — thione · 2026-10-26