Infra Play:AI 竞赛进入「终局」,研究者私下承认恐惧
thedealdirector · x · 2026-09-29
Newsletter《Infra Play》第 162 期讨论正在成形的「AI 寡头格局」。作者认为 Jacob Coxon 一条获得 1.73 亿浏览量的推文(警告超人类系统将能入侵一切、一夜革命任何领域)开启了 AI 的「终局」阶段——无论结果好坏,世界再也回不到 2023 年之前。
- 真心相信风险:造 AI 的人真心认为它可能在十年内毁灭人类,这不是营销话术;高管在媒体上措辞谨慎,私下却表达恐惧。
- 为何还在造:OpenAI 内部许多人对文明级风险认知不足;Anthropic 则深知风险但认为别人不会负责任,只能自己抢先且负责任地做。
- 作者的批评:接受这场竞赛、从一家私人公司的 Slack 里发动「终局」,是一种傲慢的赌博;「速通对齐」需要极不寻常的置信度才正当。
「漫话AGI」频道最新
- 前沿实验室高管：AI 数月内将超越人类科研，但减速时机未到 — geoffreyirving · 2026-09-30
- 安全圈联名发声,Gary Marcus:对齐无保证终于有人承认了 — GaryMarcus · 2026-09-30
- 历经几乎所有前沿实验室,Geoffrey Irving 访谈被荐为最坦诚的开篇 — geoffreyirving · 2026-09-30
- 历经 Google Brain、OpenAI 的研究员称人类灭绝概率约五五开 — geoffreyirving · 2026-09-30
- 「个人 Agent 是终极产品」论遭质疑：富豪从不靠单一代理办事 — dansitu · 2026-09-30
- 新论文探讨 AI 让软件工程变便宜后如何重塑经济 — lihua_lei_stat · 2026-09-30