安全研究者辩「生成式 AI」一词:按输出分类太窄,该按能力看风险
evijit · x · 2026-09-20
Hugging Face 的 evijit 与 NatPurser 就「generative AI」这一术语展开讨论。Purser 解释自己少用该词的两个原因:一是这个词多被安全怀疑论者使用(他们更关注 AI 对艺术家的冲击或数据中心碳排放);二是它在范畴上太窄——按模型输出(文本/图像)定义 AI,而安全研究者更担心的是模型能做什么(agent、网络攻击、生物风险)。
evijit 则提出疑问:自回归模型本质上就是 token 生成器,难道不算是生成式 AI?虽然安全考量确实适用于所有类型的模型。一段关于术语框架如何影响风险讨论重心的小争论。
「安全」频道最新
- 学者做客 CBS：AI 透明度不该靠诉讼倒逼，需独立监督机制 — chrismattmann · 2026-09-20
- Gary Marcus 警告：AI 智能体 swarm 散布虚假信息的噩梦正在成真 — GaryMarcus · 2026-09-20
- Gary Marcus 警告:AI agent 大军生成假信息正成现实 — GaryMarcus · 2026-09-20
- Gary Marcus：AI 智能体群散播虚假信息警报正在应验 — GaryMarcus · 2026-09-20
- Andrew Yang 称网络已被自复制 AI 代码污染，仅二手信源 — alex_verem · 2026-09-20
- GLiNER2 作者发声：Jev 的能力并不新，我们的模型早已开源 — philipvollet · 2026-09-20