AI 安全老兵长文：AI 大佬的安全预言多为外行话，专业壁垒终将回归
joshua_saxe · x · 2026-11-10
作者 joshuasaxe 回忆与两位 AI 名人的对话：一位把网络安全简化为「谁先找到漏洞谁赢」，另一位认为 GPT-3.5 就能让蠕虫搞垮互联网。他指出这类流行观点是错的——大量黑客攻击与数十亿美元损失并不涉及漏洞，涉及的多半也非新漏洞；GPT-3.5 更不可能驱动蠕虫。
核心论点：安全是一个有真实深度的学科，AI 名人们却常把 ML 专业声望当成可兑换的通用货币，对安全、经济、医学、法律等领域发表权威式言论。部分原因是他们被邀请表态，也因为非 AI 领域专家还没跟上。
作者预测：AI 评论将逐渐沉入真实专业知识的肌理，各学科专家会研究 AI 在自身领域的实际影响并成为真正的权威，AI 政策也将围绕这些现有专家渠道重组——否则我们无法顺利过渡到 AI 社会。
「漫话AGI」频道最新
- 美国 30 岁以下人群最常用聊天机器人，却只有 14% 相信 AI 有益社会 — PeterDiamandis · 2026-11-10
- 不可验证的领域没有安全区，智能体让努力变得免费 — generativist · 2026-11-10
- Rasmus：软件像酒店，AI 时代该像家——引发产品观争论 — round · 2026-11-10
- 研究者：不可验证领域并非人类避风港，agent 免费供给努力 — burny_tech · 2026-11-10
- CMU 教授谈 Agent 信任难题：模型对你数据的判断其实很差 — niloofar_mire · 2026-11-10
- Anthropic 与 OpenAI 算力结构剧变:预训练占比两年从 67% 跌至 7% — akbirthko · 2026-11-10