纳德拉称须假定所有 AI 模型已被攻陷,呼吁装上「紧急制动」
tomwarren · x · 2026-10-11
微软 CEO Satya Nadella 在 X 上发长文，阐述对高度先进 AI 模型风险的看法与应对方案。
- 他认为不能继续把 AI 当作「嵌套的黑箱」，只被动接受或拒绝其建议与行动
- 呼吁构建可被容器化、可观察的系统，并留下「防篡改的人类可读证据」
- 建议包括：及时披露事件、独立审计、可验证数据与隔离机制
- 最激进的主张：必须从一开始就假定模型已被攻陷（compromised）并加以遏制，像「紧急制动」一样，授权人员应能随时中途暂停或关闭模型
- 他认为越先进的模型需要越标准化的先进遏制技术
The Verge 评论指出，其观点与业内安全主张大体一致，但文章也批评他通篇把 AI 称为「超级智能」。
所属事件:纳德拉称模型即内部风险，苏莱曼呼应超级智能须被遏制(15 条相关)→
「公司和人」频道最新
- 开发者提议：OpenAI 送 10 万美元 AI 额度、AWS 送 10 万美元算力给创业者 — gajesh · 2026-10-11
- Vitalik 对谈 Balaji:用 LLM 替代教科书学习,network school 扩张 — devanshmehta · 2026-10-11
- DeepMind 伦敦机器人团队招聘预训练与数据质量研究科学家 — bousmalis · 2026-10-11
- Karpathy 将 8 年 OpenAI/Tesla 经验浓缩为免费 2 小时讲座 — NandoDF · 2026-10-11
- 纳德拉改口“超级智能”迎合特朗普，并暗讽 OpenAI 与 Anthropic — The Decoder · 2026-10-11
- 本·阿弗莱克的隐藏身份:AI 创业者,Netflix 收购其 AI 影视公司 — APPSO · 2026-10-11