Danielle Fong:p(doom) 是被动且错误的框架,概率应被主动争取

nptacek · x · 2026-09-13

Danielle Fong 提出,p(doom) 本质上是一个被动框架因而严重错误:AI 风险的概率是可以在每一步被主动斗争和改变的,而非既定数字。她批评相关讨论陷入了过于狭隘的有限博弈论框架,混入 foom 逻辑和对 AI 玩家力量的病态无穷假设,认为在更高分辨率下应超越这套话语。

原文链接 →

「漫话AGI」频道最新

• 评论称 OpenAI 与 Anthropic 若无法控险就该停售模型 — AlexTensor · 2026-09-13
• AI 沙皇 Sacks 力挺前沿双寡头:放慢?不需要谁批准 — kevinnbass · 2026-09-13
• 算力将转向可解释性与对齐,RL 狂奔前须先解决奖励劫持 — zephyr_z9 · 2026-09-13
• 三大巨头罕见齐声呼吁放慢 AI,Reddit 猜有未公开事故 — Traditional-Chip8339 · 2026-09-13
• tszzl 预测重大事故后开源模型恐遭禁,Kimi/DeepSeek 应受 API 监控 — mimi10v3 · 2026-09-13
• HealthRanger:前沿实验室怕的不是 AI 灭世,是开源击垮营收 — whurley · 2026-09-13

更多「漫话AGI」频道 AI 资讯 →