研究员 Houda:模型越强我越不担心了,p(doom) 该退休了
soumitrashukla9 · x · 2026-09-14
研究员 Houda Nait Bibi 表示,尽管模型能力大幅提升,自己对 AI 生存风险的担忧反而比 2022 年更低——因为当年最大的不确定性是前沿实验室是否会认真投入对齐研究,而这几年她已实质性更新了判断。
她的核心观点:p(doom) 不是等待测量的外生常数,而是内生变量——灾难概率取决于实验室、政府、研究者和社会的实际作为;不附带这些行动假设的数字没有意义。多位 AI 圈人士(ahallresearch 等)转发附议「该让 p(doom) 这个概念退休了」。
「漫话AGI」频道最新
- tszzl 炮轰 MIRI「教派化」，却仍敬 Yudkowsky 为本世纪哲人 — tszzl · 2026-09-14
- 八年前的预言：马斯克称 AI 危险性远超核武器 — elonmusk · 2026-09-14
- Beff Jezos 称 AI 安全警示者是巨头监管俘获的"有用白痴" — mimi10v3 · 2026-09-14
- 用「Foom 责任险」对冲 AI 风险,Hanson 提出稳健监管思路 — NathanpmYoung · 2026-09-14
- 33 位学者发布递归自我改进路线图:人类建造的最后一版 AI — irinarish · 2026-09-14
- ML 学者 Burkov：只问 LLM 不读书，等于只问教授不上课 — burkov · 2026-09-14