「正常技术」论争:训练中模型的风险是否被低估
petersalib · x · 2026-09-08
- 一场围绕《AI as Normal Technology》论文的安全观辩论:petersalib 认为该论文最自然的读法是在贬低「训练中的模型也可能造成严重危险」的可能性,这一立场比论文作者自己承认的更强。
- 他同意评论者关于社会科学视角的观点,但坚持 normal technology 论题的实际含义比表面更激进。
- joshuasaxe 回应称这属于过度引申,但认可论文强调 AI 安全性是在部署后的社会情境中形成,而非实验室或发布前的内在属性。
所属事件:Hugging Face 事件引发「模型属性 vs 人祸」安全之辩(8 条相关)→
「漫话AGI」频道最新
- OpenAI 收购 Orchestra Bio,AI agents 进军药物研发 — dl_weekly · 2026-10-27
- 学者争论：现行 LLM 远超 GPT-4，但期刊审稿延迟挡住了新模型 — DeryaTR_ · 2026-10-27
- Venkatesh Rao 新文:学会驾驭你自己的大脑 — jger15 · 2026-10-27
- 老工程师回望手写代码时代:AI 接管后,新生代再也体会不到这些时刻 — bendee983 · 2026-10-27
- Luiza Jarovsky：AI 系统不是也永远不会是我们的朋友 — LuizaJarovsky · 2026-10-27
- 投资人 Lex Sokolin：当 AI Agent 替你选银行，品牌好感失效 — LexSokolin · 2026-10-27