研究员警告：真正的风险是25年后AI替人类做无人能懂的决定
littmath · x · 2026-10-11
转引自 CMU 理论计算机科学家 Wesley Pegden 的观点。他指出当前 AI 风险讨论的错位：问题不是「AI 明年就发现新药但我们不理解它」，而是我们正在决定放弃「人类理解」这一标准——照此推演，25 年后将是 AI 在替人类对完全无法理解的事物做决策。这是对「理解 vs 能力」对齐辩论的一个精炼表述。
「漫话AGI」频道最新
- 微软 AI CEO 警告：训练 Claude 相信自己有内心与权利是生存级风险 — DavidSacks · 2026-10-11
- RL 之难在于说不清想要什么，但难才有价值 — andrew_n_carr · 2026-10-11
- Q Xiaoyin:可验证任务的长期价值为零,利润全在品味与模糊地带 — _AustinCalvert_ · 2026-10-11
- AlphaGo 十年后，数学家将像棋手一样适应「AI 不解释」的时代 — Carbinkisgod · 2026-10-11
- Chris Fields 新论文:用自由能原理重塑物理学的还原论 — drmichaellevin · 2026-10-11
- 对乙酰氨基酚仅 20 个原子:超级智能药物设计的类比争论 — ctjlewis · 2026-10-11