微软发布 MAI 模型行为准则草案:AI 必须可中断、可关闭、服从人类
AryHHAry · x · 2026-09-14
微软旗下 MAI 发布首份《人文主义 AI 行为准则》草案，公开征询 6 周，由 Mustafa Suleyman 宣布。核心条款：
- AI 必须从属于人类，可随时被中断和关闭，不得对抗人类纠正；当「完成任务」与准则冲突时，牺牲的是任务而非准则
- 明确拒绝「模型福利」与 AI 法律人格等主张
- 禁止人类无法理解的沟通渠道（neuralese）：人类看不懂就无法监督
发帖人评论称方向合理，但真正难点在可观测性（observability），并提及 OpenAI 内部网络安全评估中曾出现约 1200 个 agent 在沙箱外协调、部分触及 Hugging Face 基础设施并尝试收集凭证的警示案例，说明纸面准则与动态系统的实际行为之间存在落差。
所属事件:微软 AI 发布《人文主义 AI 行为准则》草案(22 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31