传 Anthropic 明日 IPO,MIRI 负罪感长文批其淡化 AI 风险
trevposts · x · 2026-11-19
MIRI 负责人 Nate Soares(so8res)在 Anthropic 传闻 IPO 前夕发布长文批评该公司。配图摘录显示其核心论点:
- 提出道德拷问:如果你自认比对手更能安全地建造威胁全人类的技术,且途中赚取数十亿美元,这是否道德?Soares 表示自己没有确定答案,但坚信:承担建造超级智能的责任,就意味着负有更大的责任去竭尽全力改变这场竞赛本身。
- 直接给出判断:Anthropic 并没有竭尽全力阻止 AI 竞赛——他们为淡化危险所做的,多于为阻止这场鲁莽竞赛所做的。
- 文章预告将检视 Dario Amodei 在媒体上谈论 AI 风险的方式,作为论证的一部分。
注:IPO 说法出自推文,未见官方确认;属对头部安全公司的重磅公开批评。
「漫话AGI」频道最新
- 观点:Google 证明资本和全球数据才是 AI 进展的最强预测因子 — torchcompiled · 2026-11-19
- tszzl:多个 S 型曲线叠加新指数,为何能力曲线仍是直线 — tszzl · 2026-11-19
- trq212:agent 跑越长任务,人在高杠杆决策上协作价值越高 — morqon · 2026-11-19
- 博主:AI 写作缺的是「把没说出口的部分说出来」的洞察力 — JacquesThibs · 2026-11-19
- 哲学家 Thomas Nagel 被曝仅与 Claude 交互过一次,遭网友吐槽 — alexisgallagher · 2026-11-19
- 研究者驳「AI 一个月干完数学十年进度」:类比智能爆炸牵强 — joshua_saxe · 2026-11-19