AI 安全圈激辩:担心 AI 危险,该不该先研究智能本身
aphercotropist · x · 2026-09-15
一场关于 AI 安全研究路径的争论:Jessi Cata 提出经典困惑——担心 AI 危险就去理解 AI,但学习监督学习、强化学习本身也在让机器更聪明、可能更危险。aphercotropist 反驳:她声称担心 AI,正文却在思考「智能的本质」这种抽象概念,即便不去加速 AI 研究,也说不清这种理解如何缓解担忧;他主张从理解已有的系统出发,而非「智能」抽象。Jessi 回应称,理解监督学习、RL 和基准测试也是有价值的,思考 ASI 的人或许应该多做能力研究以理解现状。
「漫话AGI」频道最新
- 评论者指前沿实验室散布 AI 恐慌实为游说封杀开源模型 — emax · 2026-09-15
- Matt Turck:玩家太多、囚徒困境,AI 进速不可能放缓 — mattturck · 2026-09-15
- 冒进被骂激进、谨慎被骂营销：科技公司的舆论两难 — cloneofsimo · 2026-09-15
- Nick Bostrom 与 Domingos 上 CNN 辩论 AI 是否会毁灭人类 — pmddomingos · 2026-09-15
- METR 负责人：模型 2027 年 8 月前或达人类研究员水平 — theamberyang · 2026-09-15
- Gary Marcus:最蠢的两大 AI 政策是无所作为与监禁超智能研究者 — GaryMarcus · 2026-09-15