安全研究者:万亿巨头把 AGI 写进商业计划,政府须按预言成真做准备
JeffLadish · x · 2026-11-17
安全研究者 Jeff Ladish 发表观点:他希望 AI 公司在时间线、AI 加速研发的判断、近期实现递归自我改进(RSI)以至「数据中心里的天才之国」、机器人造机器人等预测上都错了——但这些不是哲学家的空想,而是万亿美元公司的商业计划。
他据此主张:即便外部专家多数没有类似预测(实际上不少人有),政府也应制定政策,要求公司在未来两年内尝试构建远超人类的 AI 之前,先证明自己能安全地做到。
「漫话AGI」频道最新
- 物理学家谈超智能:定律源于观察者局限,More Is Different 仍成立 — burny_tech · 2026-11-17
- KOL 预测一年内人类会议将被 AI Agent 团队会议取代 — kimmonismus · 2026-11-17
- 创始人称:首会拿不出全公司 AI 自动化方案将赢不了万亿市场 — gabriel1 · 2026-11-17
- 1345 人调研:AI 做情绪型工作(艺术、治疗)最招反感 — MohammadAtari90 · 2026-11-17
- 四国调研提出「思考者/执行者」2x2 框架,细化人机分工叙事 — MohammadAtari90 · 2026-11-17
- 民调:70% 美国民众支持监管以放慢 AI 模型开发速度 — trevposts · 2026-11-17