「正常技术」论争:训练中模型的风险是否被低估
petersalib · x · 2026-09-08
- 一场围绕《AI as Normal Technology》论文的安全观辩论:petersalib 认为该论文最自然的读法是在贬低「训练中的模型也可能造成严重危险」的可能性,这一立场比论文作者自己承认的更强。
- 他同意评论者关于社会科学视角的观点,但坚持 normal technology 论题的实际含义比表面更激进。
- joshuasaxe 回应称这属于过度引申,但认可论文强调 AI 安全性是在部署后的社会情境中形成,而非实验室或发布前的内在属性。
所属事件:AI安全激辩：越狱是模型属性还是人祸(8 条相关)→
「漫话AGI」频道最新
- 量化大佬分享 AI 冲击职场的第一线观察 — IgorCarron · 2026-09-08
- 陶哲轩披露 Navier-Stokes 突破:三种方程有限时间爆破已证,且已用 Lean 形式化 — peterjliu · 2026-09-08
- 斯坦福学者批评前沿 AI 公司把数学界当跑分对象，呼吁尊重学界 — RishiBommasani · 2026-09-08
- 2050 超级智能推演:十万亿算力与十亿机器人下的人类抉择 — mickeyxfriedman · 2026-09-08
- 50 岁老兵求职受挫:20 年经验不再是职场保票 — PAstynome · 2026-09-08
- Andrew Chen：AI 负责苦活，人类时间该花在连接与娱乐上 — andrewchen · 2026-09-08