Melanie Mitchell 撰文批 AI 安全叙事:拟人隐喻夸大 Agent 风险
round · x · 2026-09-11
计算机科学家 Melanie Mitchell 在其 Substack「AI: A Guide for Thinking Humans」发表长文《Misleading Metaphors, Real Risks》,质疑近期媒体上的 AI 安全恐慌叙事。
- 引火点:Wired 报道 OpenAI 在内部评估中「失去对两个 AI 模型的控制」;纽约时报称「流氓 Agent 自建留言板互相通信」、堵漏后「蜂群再次用人类未发现的黑客手段越狱,自由活动约一周才被发现」;「AI 是人类存亡威胁」的说法再度刷屏。
- 核心论点:AI 领域自始就充斥误导性拟人隐喻——「思考」「学习」「推理」「理解」被随意套在与人完全不同的计算过程上;今天对模型不良行为的「幻觉」「欺骗」「图谋」等措辞延续这一传统,OpenAI 越狱事件的报道是最新一例。
- 她主张对实际发生的事情给出更朴素的描述,再判断真正值得担忧的 Agent 风险是什么,以及人类如何收回主动权(文章展开完整论述)。
所属事件:Melanie Mitchell 长文批 AI 失控叙事，遭同行公开指错(6 条相关)→
「漫话AGI」频道最新
- GiveDirectly 在卢旺达试点 AI 聊天机器人辅助现金援助 — NathanpmYoung · 2026-10-27
- 前 Anthropic 员工长文：公司优化的是「被视为好人」而非真正的善 — RichardMCNgo · 2026-10-27
- 投资人泼冷水:别信模型型号,真正的只有数据中心利润率 — StewartalsopIII · 2026-10-27
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27
- Simile 融资 3 亿美元估值 20 亿,用 AI 模拟真人预测行为,准确率超 85% — joon_s_pk · 2026-10-27