Tegmark 发声明称 Anthropic 是危害最大的 AI 公司
dansitu · x · 2026-11-19
在 Anthropic IPO 前夕,Max Tegmark 公开签署声明,称 Anthropic 在许多方面是「危害最大」的 AI 公司:其领导层公开警告递归自我改进(RSI)可能十年内造成人类灭绝,私下却在全力推进 RSI,并向投资者宣称这是其「竞争优势」。声明建议投资者权衡这种 ROI 是否值得冒风险。
转发者 @jlippincott 进一步概括了他所理解的 Anthropic 逻辑:RSI 有 10%+ 概率灭绝人类、50%+ 概率解决痛苦、必然会被造出,因此唯一解法是由 Anthropic(EA 派)率先造出对齐的 RSI、占据市场份额,再用由此产生的财富游说政府限制非 EA 势力的 AI 开发;并预言 Anthropic 未来还会继续参与武器研发。
「漫话AGI」频道最新
- Gallup 调查 16 国 1.6 万青年:33% 已拥有 AI 伴侣 — Grady_Booch · 2026-11-19
- 芝大研究:加大思考力度只提升购物 AI 的自信,不提升正确率 — Uchicago · 2026-11-19
- Amodei 建议高中毕业生学用 AI:一半入门级白领岗位 1-5 年内受冲击 — alvelda · 2026-11-19
- CVPR 作者算账:用 LLM 润色论文叙事比手写更贵 — AntonObukhov1 · 2026-11-19
- Rohit Krishnan 提出渐进式自我改进 SSI:每次升级先分析再用 — geoffreyirving · 2026-11-19
- 「别把模仿当智能」:LLM 智能维度之争再起 — AlexTensor · 2026-11-19