开发者：真正的 AI 灭绝风险来自「不够聪明」的大规模部署
rickasaurus · x · 2026-09-15
作者提出一个反直觉判断：AI 灭绝人类的风险并非来自超级智能失控，而是来自"不够聪明"——大规模部署的弱智能 AI 在无人监督下运行，比大规模部署的强智能 AI 风险更高。这一观点与主流"对齐超级智能"叙事相反，把安全关注点从模型能力上限转向部署治理与监督缺位。
「漫话AGI」频道最新
- AI 新书《Obsolete》详解「拔电源」论：以罢免 Altman 与关停 GPT-4o 为镜 — GarrisonLovely · 2026-09-15
- 创业者发声：呼吁禁 AI 荒谬至极，将拖垮美国经济 — bindureddy · 2026-09-15
- AI 冲击尚未波及实体产业，瓶颈在机械与物理 — eptwts · 2026-09-15
- Google 花 1000 万美元买破产航司聊天记录，公司最值钱的 AI 资产或在工作过程里 — bigdata · 2026-09-15
- 辩论:机器自称在理解,AI 语境用「意识到」一词并非过度拟人 — davidmanheim · 2026-09-15
- Travis Kalanick 转发 1501 年教皇管制印刷术诏书，暗讽 AI 监管 — Dan_Jeffries1 · 2026-09-15