Andy Matuschak 谈 AI 风险:不能在无控制计划前掷骰子
andy_matuschak · x · 2026-09-29
Andy Matuschak 表示,当前 AI 风险辩论双方多在鸡同鸭讲。他认为对手方的论证只能支持「大概率会没事」,但即使概率偏移几个百分点,灾难性尾部风险的概率质量仍然显著存在。
他的核心主张是:在没有把风险控制到可接受水平的真正计划之前(距离现在的能力还差很多个数量级),不应掷出这枚骰子;如果风险根本无法缓解,则永远不要掷。他总结反方立场两类:一是认为这些风险是假的、不值得担心;二是承认风险真实但概率低到无需缓解。
所属事件:Andy Matuschak 畅谈 AI 风险：尾部灾难概率不容忽视(2 条相关)→
「漫话AGI」频道最新
- 博主预言：今年出生的孩子将永不考驾照、不上班、不会老死 — rand_longevity · 2026-09-29
- Caltech 三位学者对谈:AI 正在重塑从量子到生态的科学发现 — AnimaAnandkumar · 2026-09-29
- 经济学论文 AI 代写达 25-50%,但投稿量并未爆炸 — paulnovosad · 2026-09-29
- 李飞飞：语言只是纯生成信号，LLM 看不到物理 3D 世界 — rohanpaul_ai · 2026-09-29
- NBER 研究打脸「AI 抢应届生饭碗」论,预测落空 — beffjezos · 2026-09-29
- 效率提升反推总消耗上升,Jevons 悖论再成 AI 算力讨论焦点 — burny_tech · 2026-09-29