AI 安全研究者自曝:圈内存放大夸张风险预估的社交压力
natolambert · x · 2026-09-11
- Adrian Baradwaj 担忧 AI 安全运动正在重蹈 2010 年代环保主义的覆辙:用方向正确但被大幅夸张的预测吓唬公众,结果末日没来,公众反而认定整个 AI 安全事业是骗局,进而毒化未来针对真正高风险模型的监管与安全努力。
- Jacques (jachiam0) 回应称自己认同这一担忧,并指出圈内存在不健康的社会激励:他本人相信存在性风险真实、但不认同最极端的估计,而只要站队「我们十年内都会死」的极端派,就能换取更多朋友、人情和经费——AI 安全领域的认识论氛围并不健康。
- Nathan Lambert 转发表示同样认同这一担忧。
「漫话AGI」频道最新
- 混拍还是纯 AI?独立 AI 电影人力挺 100% AI 制作的未来 — taherdhanera · 2026-09-11
- Drexler 新文:HF 事件证明系统结构可改变模型行为 — mattbeane · 2026-09-11
- CNBC 发文探讨递归自我改进风险，Conitzer 获引述 — conitzer · 2026-09-11
- Gary Marcus:靠社群压力阻止 AI 实验室变得更富更强 — GaryMarcus · 2026-09-11
- 「多数领域其实很浅」引交锋:binarybits 认为领域深度被严重低估 — binarybits · 2026-09-11
- Randall Balestr 哈佛开讲：JEPA 世界模型需要更多理论与数学 — randall_balestr · 2026-09-11