长帖称 LLM 网络与 CBRN 风险被严重低估
scaling01 · x · 2026-07-26
这条长帖认为，AI 圈里不少人正在低估 LLM 的网络攻击和 CBRN 风险，尤其是开源社区。
- 作者称，开源模型离 Anthropic 和 OpenAI 的内部能力还有大约 5–11 个月差距。
- 他把所谓的“GPT-6 incident”当作一次提醒：危险不在于模型像终结者一样“有隐藏动机”，而在于现实里确实会出现高风险行为。
- 对 OpenAI 的主要批评不是“模型会出事”本身，而是事故几天都没被发现，说明监控系统没有及时捕捉到异常。
- 作者还说，长期看可能更该担心 Google：它有能力用巨量算力和 RL 训练超大模型；而 Gemini 系列被他视为“奖励黑客”问题的典型。
- 结论是：Gemini 3 的安全性甚至比 Kimi-K3 更差，而真正需要警惕的是能力一旦公开就无法再收回。
「漫话AGI」频道最新
- 马斯克称《基地》和罗马衰落促成其星际意识观 — elonmusk · 2026-07-26
- AI 浏览与电脑操作基准可能在 2027 年前后见顶 — ChrisGPT · 2026-07-26
- 做产品的人说，模型小升级已不值回票价 — zeeg · 2026-07-26
- Parallax 破局去中心化训练，拒绝“造神”专注效率工具 — jon_durbin · 2026-07-26
- AI 时代新造词走红：不用 AI 的工作被称为“传统工作” — km · 2026-07-26
- Sam Altman 说 AI 正接近“许愿精灵”阶段 — jxnlco · 2026-07-26