Tegmark 发声明称 Anthropic 是危害最大的 AI 公司

dansitu · x · 2026-11-19

在 Anthropic IPO 前夕,Max Tegmark 公开签署声明,称 Anthropic 在许多方面是「危害最大」的 AI 公司:其领导层公开警告递归自我改进(RSI)可能十年内造成人类灭绝,私下却在全力推进 RSI,并向投资者宣称这是其「竞争优势」。声明建议投资者权衡这种 ROI 是否值得冒风险。

转发者 @jlippincott 进一步概括了他所理解的 Anthropic 逻辑:RSI 有 10%+ 概率灭绝人类、50%+ 概率解决痛苦、必然会被造出,因此唯一解法是由 Anthropic(EA 派)率先造出对齐的 RSI、占据市场份额,再用由此产生的财富游说政府限制非 EA 势力的 AI 开发;并预言 Anthropic 未来还会继续参与武器研发。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →