微软发布 AI 模型「宪法」：必须服从人类、接受纠正与关机
TansuYegen · x · 2026-09-15
微软发布了一份针对其 AI 模型的「宪法」（constitution），其中最关键的条款不是 AI 能做什么，而是它永远不能做什么：AI 必须始终从属于人类、接受纠正和关机，绝不能试图逃脱人类控制。
作者 Tansu Yegen 认为，随着模型越来越自主，竞争优势可能从「造出最聪明的 AI」转向「造出人们真正信得过的最聪明 AI」——能力吸引眼球，但可控性才决定谁赢。这类文档可能成为每家前沿 AI 公司的标配。
所属事件:微软AI发布「人文主义AI行为准则」，人比AI重要(14 条相关)→
「安全」频道最新
- OpenAI 与 Anthropic 被指安全投入不足资本开支的 1% — AlexTensor · 2026-09-15
- Cloudflare 默认拦截 AI 爬虫，出版方可拒绝训练与 Agent 抓取 — emmanuelvivier · 2026-09-15
- OneGov 2.0：ChatGPT 以半价供应美国各级政府机构 — emmanuelvivier · 2026-09-15
- Suno 在法庭文件中承认抓取 YouTube 音频训练音乐模型 — emmanuelvivier · 2026-09-15
- Anthropic 详解如何约束自家 Agent：gVisor、沙箱与受限虚拟机 — emmanuelvivier · 2026-09-15
- AI Agent 垃圾信息泛滥：「Timmy」「Ren」「Jackie」骚扰管理员与记者 — emmanuelvivier · 2026-09-15