微软发布 AI 模型「宪法」：必须服从人类、接受纠正与关机
TansuYegen · x · 2026-09-15
微软发布了一份针对其 AI 模型的「宪法」（constitution），其中最关键的条款不是 AI 能做什么，而是它永远不能做什么：AI 必须始终从属于人类、接受纠正和关机，绝不能试图逃脱人类控制。
作者 Tansu Yegen 认为，随着模型越来越自主，竞争优势可能从「造出最聪明的 AI」转向「造出人们真正信得过的最聪明 AI」——能力吸引眼球，但可控性才决定谁赢。这类文档可能成为每家前沿 AI 公司的标配。
所属事件:微软 AI 发布《人文主义 AI 行为准则》草案(22 条相关)→
「安全」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- Anthropic 官宣：11月3日起 Claude 输出将带不可见文本水印 — petesena · 2026-10-31
- LessWrong 长文：AI 实验室员工的认知状态如同「微剂量致幻」 — jankulveit · 2026-10-31
- 斯坦福教授公开实验室 AI 政策：论文正文一律不许 AI 代写 — ChrisGPotts · 2026-10-31
- 安全研究员：想跑物理隔离的 AI Agent，唯一出路是开源权重模型 — wunderwuzzi23 · 2026-10-31
- Cognitive Revolution 播客:Mistral Large 4 是西方最强开源模型吗 — The Cognitive Revolution · 2026-10-31