研究者警告：AI 深度嵌入军事系统后恐再难踩刹车
davidmanheim · x · 2026-09-11
davidmanheim 在 X 上回应关于 AI 失控担忧的讨论：他认为「终结者式接管」并非自己最担心的失败模式，真正的风险在于——AI 正被越来越紧密地整合进关键系统（尤其是军用系统的开发流程），这让人类「减速 AI 发展」的能力被逐步瓦解。他反问：开发者自己都认为模型有超过 10% 的灭绝人类风险，还要把它嵌入军事开发流程来加速自身研发，这恐怕不是好主意。
「漫话AGI」频道最新
- Eric Topol 对谈 JAMA+AI 主编:AI 如何让医学转向预测与预防 — EricTopol · 2026-09-11
- 「杠铃策略」走红:后 AGI 时代all in AI 与回归人间两手抓 — brandon_galang · 2026-09-11
- 「统计模型没有自主性，数据库毁灭人类是伪命题」AI 末日论再遭驳斥 — GaryMarcus · 2026-09-11
- Perry Metzger：与其恐慌 AI 黑客，不如做系统安全形式化验证 — jd_pressman · 2026-09-11
- 统计学家 Kareem Carr 质疑 AI 独特危险性论：提高能力≠特有风险 — kareem_carr · 2026-09-11
- Timnit Gebru 批 AI 末日论:意在分散对自主武器等真实危害的注意力 — nordicinst · 2026-09-11