AI 研究者中位生存风险估计升至 10%,预训练算力占比仅剩 11%
gleech · x · 2026-09-17
Humans on AI 第 53 期周报，本期要点:
- 预训练占比暴跌:SemiAnalysis 称前沿训练算力中预训练仅占 11%(含推理则占总算力 7%),后训练是它的 9 倍；2025 年初该比例还是 95%。若「预训练利于对齐、高强度 RL 后训练导致失准」的假说成立，这是坏消息。多数算力已从容量敏感转为带宽敏感。
- 政策:OpenAI 支持 FRONTIER Act,该法案要求联邦层面对 AI 公司进行较深入的独立评估；AI 文化战走向全国乃至国际(涉及 Amodei、Bessent、奥巴马等)。
- 安全:Anthropic 压力测试团队负责人认为，对齐评估已无法为模型安全性提供显著证据。
- 算力:WSJ 报道数据中心公司 Fluidstack 或获五角大楼 50 亿美元贷款，将是五角大楼战略资本办公室史上最大一笔(当前最大仅 8 亿美元)。
所属事件:AI 研究者大调查：10% 灭绝风险估计成常态，方法与转述引激辩(17 条相关)→
「漫话AGI」频道最新
- 去年底 AI 研究者预测:千禧年数学难题 2054 年前无解,现实已提前 — Tolopono · 2026-09-17
- Dileep 质疑 AI 风险叙事：为何只怕「一击制胜」而无视万人生死风险 — eigenhector · 2026-09-17
- 领域训练是常数增益还是改变 scaling 指数?值得追问 — eigenron · 2026-09-17
- DeepSeek 算子工程师自白:AI 一年内将胜过我,但我仍会写下去 — enginetown · 2026-09-17
- Reddit 长文:用「持久基底」与「执行基底」重新定义 Agent — D777Castle · 2026-09-17
- AI 安全与「普通技术」两派观点趋同,聚焦可落地政策共识 — dhadfieldmenell · 2026-09-17