BlackHC:当前模型 x-risk 低,但不改变路径几年内风险会大增
BlackHC · x · 2026-09-11
BlackHC 在与 NielsRogge 的辩论中给出更精确的立场:同意在当前模型和当下世界里,存在性风险(existential risk)相当不可能;但若不加改变地继续推进,几年到十年内风险会显著升高。
他指出「我们一定会实施监管、做好对齐」并非理所当然的前提,而风险兑现的速度可能远超人们预期。这是对「scaling 怀疑论」一方的直接回应,把争论焦点从当前能力转向轨迹与治理假设。
「漫话AGI」频道最新
- 研究员批AI安全界混淆风险叙事：错误恐惧正在毁掉公众想象力 — Dr_Atoosa · 2026-09-11
- 安全从业者反思:廉价化的「AI 灭绝风险」话语如何毁掉公众想象力 — Dr_Atoosa · 2026-09-11
- 技术假说:ASI 会因数学激励而永久保护人类多样性 — No_Cause_2731 · 2026-09-11
- 博客提出:Scaling Laws 的根源在数据结构而非模型架构 — gleech · 2026-09-11
- AI 末日论甚嚣尘上,Reddit 求乐观共存的反方论证 — joshlove182 · 2026-09-11
- AI 末日论也有代际差:Xennial 乐观、Zoomer 恐惧的结构性倒置 — nptacek · 2026-09-11