Demis Hassabis 警告前沿 AI 正变成网络安全问题
breath_mirror · x · 2026-07-24
Demis Hassabis 认为，前沿 AI 模型正在成为越来越大的网络安全挑战。
他提到：
- 行业正在进入更 agentic 的阶段，但这也带来了更强的安全隐患
- 来自先进模型的 cyber 风险 才刚刚开始显现
- 也许现在就需要推动 标准制定
- 国际合作 可能会变得很重要
这段话的核心是：AI 安全已经不是纯理论问题，而是头部实验室负责人正在认真面对的现实议题。
「安全」频道最新
- 研究发现「用 AI 审 AI」很难发现 reward hacking,作者推理解审计方案 — ronbodkin · 2026-10-26
- 网页塞一个 Markdown 就能劫持 Claude Code,Downloads 目录成 AI 攻击新死角 — pbaylies · 2026-10-26
- 当 Agent 能自我改写,「同意」还能约束它吗? — tallmetommy · 2026-10-26
- 529 起 AI Agent 事故中 109 起无攻击者，红队测试须覆盖全流程 — anacondainc · 2026-10-26
- 密码学家复盘漏洞史：代码疑似有漏洞就该立刻修 — matthew_d_green · 2026-10-26
- 浏览器 Agent 记忆写入路径需更多提防:先过滤密钥再进长期记忆 — Classic-Being-7960 · 2026-10-26