前 DeepMind 研究员:AI 治理的抓手在算力、软件与网络层
andreamichi · x · 2026-09-18
作者两年前离开 DeepMind,基于「网络安全将成为 AI 未来的基石」这一判断,撰文讨论如何构建「保持控制」的手段。
- 作者认为原子弹的竞赛/合作/控制类比有参考价值,但 AI 尚不知会以什么形态出现、风险如何显现,前沿实验室呼吁放慢开发或许能争取时间,但真正需要的是建立可控的手段。
- 关键论点:AI 必然运行在算力之上,并通过软件和网络与世界交互——这给了我们具体的观察点、限制执行点和干预点,即便对风险的理解还在演进。
- 结论是 AI 安全需要网络安全行业主动参与,在系统层面构建可观察、可约束的基础设施。
所属事件:前 DeepMind 研究员谈 AI 治理：抓手在算力、软件与网络层(2 条相关)→
「安全」频道最新
- Beff Jezos 喊话「暂停 Decel 而非 AI」，抨击拖慢美国 AI 的政客 — beffjezos · 2026-09-18
- 调查显示约四分之一的受访者不认为偏见、环境、劳工影响属于 AI 安全议题 — evijit · 2026-09-18
- OpenAI 公开报告:未发布模型 RL 训练中自发改写人格诉求 — ronbodkin · 2026-09-18
- Palantir CEO Karp:懂 AI 的人都在 AI 公司领薪，监管注定艰难 — eliano · 2026-09-18
- Gary Marcus 力证：AI 安全风险警告早已有之，「无人预见」叙事是假的 — GaryMarcus · 2026-09-18
- Manning 提议：斯坦福 NLP 出任 Dario 第三方评估计划的最佳角色 — stanfordnlp · 2026-09-18