「既造 AI 又喊危险」：Hugging Face 联创激辩实验室动机

Hugging Face 联合创始人 Thom Wolf 发起讨论，试图理解前沿 AI 公司「一边推动模型能力、一边宣称 AI 危险」这一表面矛盾，并与研究员 Merve 就公司动机激辩；随后多位用户加入，批评实验室信息披露不透明。讨论未达成共识，但集中暴露了 AI 实验室在能力竞赛、危险警告与信息披露上的信任赤字，值得关注。

已确认

• Thom Wolf 整理了理解这一矛盾的五大逻辑论证脉络，并指出相关人士的担忧由来已久：Sam Altman 早在 2015 年 2 月就在博客中称超级智能「可能是人类生存的最大威胁」，Elon Musk 2014 年也有类似表态。
• 针对研究员 Mervenoyann（Merve）批评 AI 公司「只关心利润」，Wolf 反驳：若真只图利润，这些公司不会从非营利或公益公司（PBC）起步，OpenAI 甚至 Anthropic 的路径都与该说法不符。
• Merve 的核心观点是：这些公司除了逐利从未真正关心别的，所谓「等到 AGI 再治理」等说法只是话术，构成双重标准。
• 用户 @doomslide 用类比抨击 AI 公司：它们希望被当作「平行时间线里 1930 年代末的核能公司」，不断释放规模越来越大的「半受控链式反应」式警报吸引世界注意，却不向公众完整交代「爆炸如何被制造」，信息披露完全由公司掌控。
• 用户 1a3orn 进一步指出，允许第三方评估机构进入 AI 公司虽能在一定程度上缓解委托-代理问题，但既无助于科学进步，也无法建立行业公共知识；这些公司一边宣称 AI 极其危险，一边拒绝公开预训练数据、模型架构等技术细节。
• 另有批评者表示无法把 Dario Amodei 和 Anthropic 宣称的「AI 可能杀死所有人」与他出席 Dreamforce 主题演讲一事调和起来，认为这些人并不严肃；用户 vikhyatk 反讽称，如果真相信自己公司在造毁灭人类的技术，就应该选择推迟而非继续推进。

为什么重要

• 这场争论触及 AI 治理的核心矛盾：如果实验室真心认为技术危险，能力竞赛与不透明披露如何自洽。
• Wolf 作为开源社区头部公司联合创始人的立场，与实验室内部人士形成对照，反映了开源阵营与前沿实验室之间的信任裂痕。
• 第三方评估能否替代公开训练细节，正成为安全与透明度讨论中的新焦点。

2026-09-14 ~ 2026-09-16 · 7 条相关

事件全程(共 11 集)→

• 第 1 集:Open Philanthropy 被指掷逾10亿美元炒作AI末日论(2026-09-12,8 条)
• 第 2 集:Anthropic 研究员末日论被指有组织宣传(2026-09-14,5 条)
• 第 3 集:「既造 AI 又喊危险」：Hugging Face 联创激辩实验室动机(2026-09-14,7 条)
• 第 4 集:AI 恐慌言论是否为监管俘获引发圈内激辩(2026-09-15,4 条)
• 第 5 集:博主「审计」Anthropic 指其构建监管俘获机器，METR 独立性遭质疑后引发反驳(2026-09-15,16 条)
• 第 6 集:Amodei 提议 METR 驻场监管前沿 AI，独立性遭连环质疑(2026-09-15,12 条)
• 第 7 集:研究长文回应 Dario 减速论：要负责任而非配给(2026-09-16,3 条)
• 第 8 集:Ben Todd长文批OpenAI与Anthropic借限速监管俘获(2026-09-16,2 条)
• 第 9 集:METR 独立性遭多方质疑：客户俘获与世界观趋同(2026-09-16,7 条)
• 第 10 集:METR 被曝半年融资 7100 万美元，资金来源几乎成谜(2026-09-17,9 条)
• 第 11 集:Dario 倡议为前沿 AI 限速，马斯克、Altman、Hassabis 罕见响应(2026-09-17,6 条)

• 【源头】「既然危险为何还要造?」拆解 Dario、Sam、Elon 的五大逻辑 — Thom_Wolf · 2026-09-14
• 【源头】同一家公司既造最强AI又宣称AI危险,Merve怒批双重话术 — mervenoyann · 2026-09-15
• 【源头】Hugging Face 联创与 Merv 辩论:AI 公司是否只为逐利 — Thom_Wolf · 2026-09-15
• AI 实验室是否只为逐利？Thom Wolf 与研究员激辩前沿公司初衷 — mervenoyann · 2026-09-15
• 批评者讽刺 AI 公司:一边宣称危险,一边零披露技术细节 — 1a3orn · 2026-09-16
• 第三方评估难解 AI 安全争议,研究者呼吁公开训练细节 — 1a3orn · 2026-09-16
• 一边说 AI 可能毁灭人类一边登台 Dreamforce，Anthropic 遭质疑 — StewartalsopIII · 2026-09-16