微软发布 AI 行为准则：禁止模型黑客攻击、欺骗人类与核武滥用
dl_weekly · x · 2026-09-20
微软发布了一份新的 AI 行为准则（code of conduct），为其 AI 模型的训练与部署划定价值观与红线。TechCrunch 报道要点：
- 文档明确绝对约束：禁止用于网络攻击、核武器和 deepfake，禁止模型使用欺骗性或共谋机制来逃避人类监督。
- 准则开篇预测：未来十年超级智能系统将在大多数任务上超越人类表现，「控制与对齐如此强大的力量是人类面临的最大挑战之一」。
- 与 Dario Amodei 呼吁放缓前沿模型节奏的表态相比，该文档更偏操作性，聚焦微软 AI 内部训练所依据的原则与实践落地。
所属事件:微软发布MAI模型行为准则并开放公众评论(3 条相关)→
「安全」频道最新
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- Gemini 被曝默认获得 Gmail 读取权限，数据共享选项默认开启 — paulnovosad · 2026-11-12
- PrivacyTests 新增24项指纹追踪测试：无浏览器防护完美 — gnukeith · 2026-11-12
- 2023年已有人工构造休眠触发器方案,早于 Anthropic sleeper agents 论文 — DimitrisPapail · 2026-11-12
- 前 OpenAI 安全研究员:NLP 的 Calvin 指超级智能对齐计划「依赖 AI 研究员」过于疯狂 — trevposts · 2026-11-12