模型能力逼近顶级水平,网络为何没被打穿?安全研究者给出三种解释
joshua_saxe · x · 2026-10-08
一则引用 Nat Lambert 观点的讨论:发帖人对比了 GLM 5.3 与 GPT-5.6 Sol 的使用体验,认为两者能力差距已经很小,「只要肯下功夫,用开源或闭源模型都能攻破任何公司」,但现实中并未看到相应规模的攻击发生。
他给出三种可能的解释:
- 真正的恶意行为者比网络安全厂商宣传的要少;
- 攻破财富 500 强公司难以变现——数据不好变现、容易被抓,而加密货币攻击和倒卖 LLM token 的变现路径容易得多,这也解释了为什么大量攻击者盯着 token 而非源代码或知识产权;
- 或者有价值的实验室 IP 正在被悄悄出售。
结论是开放性的:即便开源模型追平闭源前沿水平,世界也未必因此显著更危险。
「漫话AGI」频道最新
- 数学家称「没人要求 AI 来做我们的工作」,引发争议 — prof_g · 2026-10-08
- Roko:2025 年底起预训练与 RL 算力配比剧变,AI 已换物种 — yacineMTB · 2026-10-08
- 「水管工会安全十年」？供给暴涨才是 AI 时代的真风险 — clemnt · 2026-10-08
- 数据科学家出路论：会做仪表盘已零 ROI，AI Agent 工作流岗位值 20 万美元 — mdancho84 · 2026-10-08
- 贝索斯称 AI 将带来每周三天工作制与单收入家庭 — rand_longevity · 2026-10-08
- AI 学者:实际无关先于生存无关,未增强人类将失去参与资格 — danfaggella · 2026-10-08