白宫 AI 主管 David Sacks 警告:递归自我改进是最危险的研究方向
peterwildeford · x · 2026-11-15
在 All-In Pod 节目中,David Sacks 引用 Anthropic 的说法批评道:Anthropic 正在宣称「递归自我改进(recursive self-improvement)已经启动」,尽管这在安全上有明显问题,并称「递归自我改进是任何人能做的最危险的事」。被引用的评论指出,Anthropic 甚至不再声称与 OpenAI 形成双寡头,而是「说自己要赢下全部」;其路演视频已谈到逼近递归自我改进。评论者总结:每家实验室都对投资人说自己会赢,新变化是宣称将由模型自己来完成这场胜利。
「漫话AGI」频道最新
- X 用户主张美国政府有能力随时叫停 AI,应设评估与算力追踪 — NathanpmYoung · 2026-11-15
- Blaise Agüera y Arcas 谈人类心智与 AI 差异:笛卡尔心物分界正被模糊 — blaiseaguera · 2026-11-15
- 给真实村庄 297 人配 AI 智能体:GPT 系说谎率高达 94% — allisondman · 2026-11-15
- Anthropic 研究:团队人手一个 Agent,表现反不如共用一个 — vista8 · 2026-11-15
- 「治癌」叙事遭拆解:AI 愿景为何只剩减轻痛苦 — danfaggella · 2026-11-15
- AI 圈激辩:为创造新物种牺牲自我是否该入罪 — zetalyrae · 2026-11-15