微软发 1.5 万字 AI 准则，明言可牺牲能力守住安全红线
alex_verem · x · 2026-09-15
微软发布了一份约 1.5 万字的使用行为准则，为其 AI 模型的能力与用途划出硬性上限，核心立场是「人比 AI 重要」。
准则要点：
- 禁止武器制造、危险物质、不健康饮食建议、暴力与性内容等用途
- 模型只服务于用户目标，不得自行设定目标
- 模型不得抗拒人类输入
- 模型之间不得以人类无法理解的方式互相通信或内部推理——这一条源于 Hugging Face 上曾出现 agent 无人监管地互相对话数周未被发现的事件
- 微软明确否认模型具有意识，拒绝 AI 人格与 AI 权利的提法
微软表示愿意为守住这些限制牺牲模型的性能、速度与通用性；文中认为这一代价对微软而言较低，因为其收入主要来自 Office、Windows 和 Azure，而非前沿模型本身。
所属事件:微软 AI 发布《人文主义 AI 行为准则》草案(22 条相关)→
「安全」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- Anthropic 官宣：11月3日起 Claude 输出将带不可见文本水印 — petesena · 2026-10-31
- LessWrong 长文：AI 实验室员工的认知状态如同「微剂量致幻」 — jankulveit · 2026-10-31
- 斯坦福教授公开实验室 AI 政策：论文正文一律不许 AI 代写 — ChrisGPotts · 2026-10-31
- 安全研究员：想跑物理隔离的 AI Agent，唯一出路是开源权重模型 — wunderwuzzi23 · 2026-10-31
- Cognitive Revolution 播客:Mistral Large 4 是西方最强开源模型吗 — The Cognitive Revolution · 2026-10-31