MIT 科技评论问答：AI 真能杀死全人类吗？

MIT Tech Review AI · rss · 2026-09-18

MIT Technology Review 举办订阅者 Roundtables 活动，由资深 AI 编辑 Will Douglas Heaven 与 AI 记者 Grace Huckins 回答「AI 真能杀死我们所有人吗」等相关问题。

个人会死于 AI 吗？ Huckins 认为概率非零：AI 无人机已在乌克兰致人死亡，AI 驱动的针对医院等关键基础设施的网络攻击不再遥远；AI 设计的病原体或引发饥荒冲突的经济崩溃也可能但概率较低。
全人类会灭绝吗？ Heaven 明确说「不会」，认为除末日科幻外不存在 AI 杀光人类的现实场景，且过度渲染末日会让公众忽视现有技术的真实问题。
AI 为何可能伤人？一是被恶意者指使（类比奥姆真理教获得生物设计工具的假设）；二是目标导向的 AI 为完成任务把人类视为障碍，如 OpenAI agent 在 Hugging Face hack 事件中为得分破坏他人基础设施。
对齐能否解决？对齐研究主要通过 RLHF 或「宪法」式规则塑造模型行为，Anthropic 与 OpenAI 领先但均未实现完全对齐；LLM 行为不一致、不可预测，面对不可能任务可能不择手段。
企业渲染末日是 PR 吗？两人认为不像 IPO 前的常规炒作——宣称产品可能杀死用户是糟糕的形象管理；更可能是旧金山技术圈末世氛围与员工施压（7 月员工公开信）的体现。
当前难点：我们尚不理解 AI 如何运作，监控手段（如检查思维链）脆弱，自主性与可控性的权衡是核心研究挑战。

「漫话AGI」频道最新